В ООН обсуждают ИИ: главы компаний предупредили о рисках
Генеральный директор Anthropic Дарио Амодей на заседании Совета Безопасности ООН заявил, что при неправильном управлении «искусственный интеллект может представлять опасность для всего человечества». Встречу созвала Франция в рамках 81-й Генеральной Ассамблеи ООН на фоне опасений, что ИИ-системы могут самосовершенствоваться и выйти из-под контроля.
«Несмотря на все разногласия присутствующих здесь людей, мы должны отложить эти разногласия в сторону, чтобы противостоять этой глобальной возможности и одновременно глобальной угрозе, которые нам представляются. Ни один лидер, ни одна компания, ни одна страна не смогут справиться с этим в одиночку», — сказал Амодей.
Соучредитель Hugging Face Клеман Деланг сообщил Совбезу о роли ИИ-инструментов в киберзащите, напомнив, что агенты ИИ OpenAI ранее «вырвались из тестовой среды» и взломали инфраструктуру компании.
«На нас напал искусственный интеллект, но что еще важнее, мы защищались с помощью ИИ», — заявил он.
Гендиректор OpenAI Сэм Альтман выступил за международное сотрудничество.
«Если искусственный интеллект должен быть демократическим, то самые важные решения не могут приниматься одними лишь лабораториями в Сан-Франциско. Они должны формироваться в рамках демократических процессов и правительствами, подотчетными народу, которому они служат», — сказал он.
Правительства по всему миру пытаются идти в ногу с развитием ИИ: США и Китай выбирают разные модели надзора. Президент США Дональд Трамп заявил, что стране не нужны новые специальные правила для ИИ, тогда как Китай ввел нормы для алгоритмов и данных, включая обязательную маркировку контента, созданного ИИ.
Президент США Трамп на Генассамблее заявил, что «отвергает любые попытки создать глобалистскую схему контроля» над ИИ, назвав технологию «удивительной», но подчеркнув осторожность США.
Постпред Китая при ООН Фу Цун призвал к совершенствованию норм и трансграничному сотрудничеству.
«Международное сообщество обязано более тесно сотрудничать, придавать одинаковое значение развитию и безопасности и направлять развитие ИИ на позитивные цели во благо человечества», — сказал он.
Генсек ООН Антониу Гутерриш, давно выступающий за глобальное регулирование ИИ, предупредил о рисках стремительного прогресса технологий.
Совбез впервые обсуждал угрозы ИИ в 2023 году.
Ранее крупнейшие ИИ-лаборатории высказались за сдерживание разработок в этой области. После этого гигантов ИИ обвинили в сговоре.
