Как ядерное оружие: Киссинджер предупредил человечество из-за гонки ИИ

В статье для Foreign Affairs бывший госсекретарь США Генри Киссинджер предупредил человечество о возможных последствиях бесконтрольного развития искусственного интеллекта (ИИ). Выдержки из материала публикует издание «БИЗНЕС Online».

Он сравнивает эту ситуацию с гонкой ядерного вооружения, отмечая, что на сегодняшний день время для реакции значительно сокращено. Однако, перед тем как предлагать меры контроля над ИИ, необходимо понять, в чем его принципиальное отличие от ядерного оружия.

Существующие предложения по контролю ИИ в значительной мере перекликаются с прошлыми инициативами по сдерживанию ядерного оружия. Но они так и не были реализованы из-за нарушения суверенитета государств.

Киссинджер отмечает, что в истории ни одна страна не отказывалась от разработки новых технологий, даже если их враг уже овладел ими. Он также указывает на то, что разработкой ИИ занимается преимущественно частный сектор, а не государства, что создает неконтролируемую конкурентную среду и не учитывает национальные интересы.

В отличие от ядерного оружия, ИИ основан на цифровых технологиях. Разработка ядерного оружия требовала сложных технологий и имела конкретный физический аналог, который можно было подсчитать и сравнить.

ИИ же разрабатывается в лабораториях и не имеет физического проявления. Это делает его развитие труднодоступным для наблюдения и контроля.

Однако, самое главное отличие ИИ от ядерного оружия заключается в его скорости прогресса. Политика и доктрины в области ИИ должны быть разработаны задолго до того, как ИИ станет частью системы безопасности.

Отдельные эксперты полагают, что это может произойти уже через пять лет. Поэтому необходимо обсудить этот вопрос на национальном и межнациональном уровне и установить новый порядок отношений между государством и частным сектором.

Киссинджер отмечает, что IT-гиганты, которые сделали США лидером в области ИИ, осознают свою ответственность перед страной и всем человечеством. Они уже разработали рекомендации по предотвращению рисков и ограничению использования своих ИИ-моделей.

Джо Байден провел встречу с главами семи ИИ-компаний, на которой были приняты меры, гарантирующие безопасность и доверие к ИИ. Киссинджер призывает бизнес и государство действовать сейчас для предотвращения рисков бесконтрольного применения ИИ.

Он предлагает компаниям, обладающим возможностями для разработки новых ИИ-моделей, создать рабочую группу и проанализировать последствия своих коммерческих операций для страны и всего человечества. Однако Киссинджер признает, что этот вызов не может быть решен только одной страной.

Он предлагает основать национальную комиссию, в которую войдут эксперты частного сектора, не связанные с компаниями, а также представители конгресса, армии и спецслужб. Эта комиссия должна заниматься оценкой технологий, разрабатывать меры безопасности и контролировать процесс разработки ИИ.

В заключение Киссинджер подчеркивает необходимость следить за развитием ИИ, предсказывать его возможные применения и последствия. Риски бесконтрольного использования ИИ требуют немедленных действий со стороны бизнеса и государства. Консолидация усилий на национальном и международном уровнях поможет создать новый порядок в области контроля искусственного интеллекта.

Ранее 5-tv.ru сообщал, что искусственный интеллект научился распознавать инопланетную жизнь с точностью 90%.