Премьер Швеции “влип” в скандал из-за признания о ChatGPT

Премьер-министр Швеции Ульф Кристерссон оказался под шквалом критики после признания, что часто обращается к искусственному интеллекту для получения “другого мнения” в работе правительства.Как пишет The Guardian, в интервью Dagens industri политик рассказал, что ChatGPT и LeChat помогают ему с альтернативными взглядами. “Я использую эти сервисы довольно часто – даже просто, чтобы услышать другое мнение. Посмотреть, что делали другие, и стоит ли нам мыслить иначе”, – сказал премьер.Это заявление вызвало волну критики в медиа и среди экспертов. Газета Aftonbladet в редакционной статье раскритиковала премьера, обвинив его в том, что он “упал в ловушку AI-психоза олигархов”.Исследовательница в области кибербезопасности Симона Фишер-Гюбнер из Карлстадского университета предостерегла, что использование искусственного интеллекта для обработки даже базовой, но потенциально конфиденциальной информации является рискованным. Представитель Кристерссона Том Самуэльссон в ответ отметил, что премьер не передает системам никакой критически важной информации:”Речь идет не о данных по безопасности. Это скорее инструмент для ориентации – общего представления”.Впрочем, другие эксперты остаются скептическими. Профессор ответственного использования ИИ из Университета Умео Вирджиния Дигнум отметила, что такие системы не имеют собственного мнения, а лишь воспроизводят видение их разработчиков.”Чем чаще политик полагается на искусственный интеллект даже в простых задачах, тем больше вероятность, что он начнет переоценивать его надежность. Это опасная тенденция. Мы не голосовали за ChatGPT. И должны требовать гарантий надежности таких систем”, – добавила она.ChatGPT – это чат-бот на базе искусственного интеллекта, созданный компанией OpenAI. Он работает на основе так называемой языковой модели GPT (Generative Pre-trained Transformer), которая способна генерировать текст, отвечать на вопросы, переводить, писать коды, суммировать информацию, придумывать истории, писать стихи и тому подобное.Первая версия GPT появилась еще в 2018 году, но настоящий прорыв произошел в ноябре 2022 года, когда была запущена публичная версия ChatGPT. Только за первые два месяца бот собрал более 100 миллионов пользователей, став самым быстрорастущим цифровым сервисом в истории на тот момент.Для взаимодействия с ChatGPT не нужны специальные знания и пользователи очень быстро увидели, что эти системы могут “заменить” множество инструментов.Несмотря на стремительный рост популярности подобных систем, их использование сопровождается рядом серьезных рисков, которые вызывают беспокойство среди специалистов, правительств и самих пользователей.Один из ключевых – это риск дезинформации. Искусственный интеллект может создавать ложные или вымышленные факты, ссылаться на несуществующие источники или просто “уверенно ошибаться”, не подавая это как предположение.Другой важный риск – конфиденциальность. Хотя компании-разработчики уверяют, что модели не хранят частные данные пользователей, все же существует потенциальная опасность утечки информации или злоупотребления в случае ненадлежащего использования.