Ученые сообщили об угрозе вымирания человечества из-за ИИ к 2100 году
«Злонамеренное использование ИИ, включая биологическое оружие, и ядерный конфликт с ядерным голодом несут в себе риск вымирания в ближайшие 75 лет», – говорится в докладе.
При этом ученые отмечают, что подобные сценарии развития будущего «несут в себе высокую степень неопределенности», однако обширные политические дискуссии и их потенциальная масштабность требуют их включения в анализ.
Всего эксперты выделяют три основных направления рисков, когда ИИ может угрожать человечеству, первым является случай, когда ИИ используется для разработки биологического оружия.
Вторым они называют интеграцию ИИ в критически важную социальную инфраструктуру, что может привести к созданию массовых «политических дипфейков», использованию ИИ в качестве инструмента для шантажа, автономного ядерного оружия и другим проблемам.
Последним направлением специалисты называют потерю контроля в результате появления общего ИИ-интеллекта, что может лишить человечество контроля или привести к его вымиранию.
Для составления списка угроз комиссия смоделировала, сколько лет здоровой жизни может быть потеряно из-за болезней, инвалидности или преждевременной смерти по каждой угрозе, исходя из текущих тенденций.
В сентябре глава компании Anthropic Дарио Амодеи призвал замедлить развитие ИИ, чтобы сохранить контроль над технологией. Он связал свои опасения со случаями, когда ИИ-агенты выходили за установленные ограничения. Его призыв поддержали глава OpenAI Сэм Альтман и руководитель xAI Илон Маск.
Президент США Дональд Трамп в свою очередь отверг призывы руководителей технологических компаний замедлить развитие ИИ.
