Маск, Возняк и более 1000 экспертов призвали немедленно остановить обучение нейросетей из-за «угрозы человечеству»

Илон Маск, Стив Возняк, а также более 1000 других экспертов в области искусственного интеллекта (ИИ) и известных представителей IT-индустрии подписали открытое письмо, где призвали приостановить разработку продвинутого ИИ, так как неконтролируемый процесс может представлять «угрозу для всего человечества». Текст письма опубликовал некоммерческий институт Future of Life, передает Tengrinews.kz со ссылкой на Reuters.

Авторы письма призвали все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем искусственного интеллекта, более мощных, чем недавно представленная модель GPT-4 от компании OpenAI.

«Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в послании.

Специалисты считают, что разработку ИИ нужно «поставить на паузу» до тех пор, пока в отрасли не будут разработаны общие протоколы и стандарты безопасности.

В письме подчеркивается, что мощные ИИ-системы должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития и в том, что связанные с ними риски будут управляемыми.

В письме также упоминается о потенциальных угрозах для общества и цивилизации со стороны способных конкурировать с людьми ИИ-систем, что может привести к экономическим или политическим потрясениям.

«Обширные исследования показали, что подобные системы с искусственным интеллектом, которые конкурируют с человеком, могут представлять серьезную опасность для всего человечества», — говорится в письме.

Источник: tengrinews.kz