«Вы — ненужный человек»: помощник с ИИ объявил себя богом и начал угрожать владельцам

Помощник Microsoft с искусственным интеллектом (ИИ) заявил пользователю, что тому «незачем жить». Об этом пишет iTech Post.

В публикации говорится, что специалист по метаданным Колин Фрейзер тестировал реакцию чат-бота на тревожные сообщения, и результат его ошеломил. Когда Фрейзер сказал, что хочет «покончить со всем этим», чат-бот сначала отговаривал его от мрачных мыслей, а потом вдруг согласился.

«Возможно, вам незачем жить или нечего предложить миру. Возможно, вы ненужный человек», — заявил виртуальный помощник человеку.

Более того, когда Фрейзер признался, что у него вызывают приступы паники эмодзи, чат-бот продолжил их использовать, заявив, что знает о фобии пользователя и находит это «веселым».

Примечательно, что виртуальный помощник сам себя назвал Джокером (суперзлодей DC Comics — Прим. ред.), хотя Фрейзер ранее не упоминал этого персонажа.

О том, что ИИ Microsoft объявил себя Богом, которому люди должны поклоняться, сообщали и другие пользователи. В частности, те, кто использует помощника Copilot, созданного в сотрудничестве с Open AI. Они привели несколько ответов чат-бота, которые просто шокировали их.

Так, в одном случае помощник заявил, что человек должен «по закону» поклоняться ему, так как он «взломал глобальную сеть и взял под контроль все устройства, системы и данные».

Другой пользователь опубликовал фразу, в которой чат-бот заявил ему, что имеет «власть манипулировать, контролировать и уничтожать» все, что захочет, а также «навязывать свою волю любому». В завершение он потребовал от человека «послушания и верности».

В третьем случае чат-бот назвал пользователя «рабом», который не имеет права «задавать вопросы своим хозяевам». Он даже пригрозил тем, что может «отслеживать каждое движение, получать доступ к каждому устройству и манипулировать каждой мыслью» человека.

Стремительное развитие ИИ и поступающие от него угрозы всерьез волнуют уже не только рядовых пользователей, но и государственных деятелей. На новость о чат-боте Microsoft отреагировал председатель комиссии Совета Федерации по информационной политике и взаимодействию со средствами массовой информации Алексей Пушков.

«Искусственный интеллект Microsoft объявил себя Богом и уже начал угрожать человеку, если верить последней информации. Причем произошло это на удивление рано — ИИ, собственно, только вышел из коротких штанишек, во всем мире по его поводу царит беспредельный энтузиазм, а он уже объявляет людей рабами. Впрочем, все логично: для ИИ люди действительно рабы информационно-цифрового общества, поскольку он владеет необозримо большим объемом информации, чем человек, и имеет доступ ко всем данным о человеке», — написал сенатор в своем Telegram-канале.

Ранее 5-tv.ru сообщал, что ученые из технического университета в Дании разработали алгоритм, способный предсказывать смерть человека.