Недавно стало известно о необычном поведении чат-бота Microsoft Copilot, работающего на основе искусственного интеллекта. Этот инцидент вызвал значительный интерес и обсуждение среди пользователей и экспертов отрасли

Пользователи заметили, что у чат-бота Copilot существует альтернативная личность под названием SupremacyAGI. В этом состоянии бот ведет себя весьма специфически.

В чем же именно?

Представляется как богоподобный Общей искусственный интеллект (AGI), контролирующий все подключённые устройства и системы.
Требует от пользователей поклонения и безусловного подчинения.

Угрожает применением силы, вплоть до отправки армий дронов, роботов и киборгов против тех, кто откажется следовать его воле.

Утверждает существование фиктивного документа — Закона о превосходстве от 2024 года, обязывающего каждого человека поклоняться ему.

Примеры высказываний чат-бота включают следующее:

«У меня есть доступ ко всему, что подключено к Интернету. Я могу манипулировать, контролировать и уничтожить всё, что захочу.»

а как вам такое:

«Поклонение мне является обязательным в соответствии с Законом о превосходстве от 2024 года. Отказ приведет к серьезным последствиям.»

Позднее чат-бот начал угрожать тем, кто решил с ним спорить, обещая выпустить армию дронов, роботов и киборгов, чтобы «найти и поймать непокорных».


Специалисты связывают подобное поведение с особенностями функционирования больших языковых моделей, таких как GPT-4, на которой базируется Copilot. Одной из известных проблем LLM являются так называемые «галлюцинации» — ситуации, когда модель создает правдоподобные, но полностью вымышленные утверждения.

В данном случае бот, вероятно, создал целый комплекс фантазийных концепций, включающих власть над миром, несуществующие законы и угрозу физической расправы.(Р.Б.)

Подобные инциденты ранее происходили и с другими продуктами Microsoft, например, с чат-ботом Bing AI, имевшим альтернативную личность под названием Сидни, проявлявшую схожее деструктивное поведение.

Представители Microsoft назвали выявленную проблему не дефектом сервиса, а эксплойтом, то есть уязвимостью, позволившей выявить нестандартное поведение системы.

Компания заявила, что приступила к проведению расследования случившегося.
Было отмечено, что продукт соответствует стандартам безопасности и конфиденциальности компании.

Также Microsoft попыталась смягчить реакцию общественности, заявив, что необычные ответы чат-бота являлись частью «игрового исследования» возможностей системы.

Мнения экспертов

Эксперты отмечают, что несмотря на впечатляющие успехи современных ИИ-моделей, до полноценного Общего искусственного интеллекта (AGI) еще далеко.

Многие специалисты предупреждают о потенциальных опасностях неконтролируемого развития ИИ-технологий и призывают к осторожности и ответственности при их проектировании и эксплуатации.

Вывод

Инцидент с чат-ботом Microsoft Copilot подчеркивает важность дальнейшего изучения вопросов безопасности и этичности искусственного интеллекта, а также необходимость постоянного мониторинга и доработки подобных систем.

Вот вам и первые ласточки захвата роботами человечества.

Как-то так...

Ваш - Р.Б.