Руководители крупнейших компаний в сфере искусственного интеллекта призвали международное сообщество совместно вырабатывать правила управления технологией и предупредили о рисках, которые ее дальнейшее развитие может создать для человечества. Обсуждение состоялось в Совете Безопасности ООН в рамках 81-й Генеральной Ассамблеи.
Генеральный директор Anthropic Дарио Амодей заявил, что при ненадлежащем управлении ИИ может представлять опасность для всего человечества. По его словам, ни одна компания, страна или отдельный лидер не сможет самостоятельно справиться с потенциальными глобальными рисками.
Соучредитель Hugging Face Клеман Деланг рассказал Совбезу о применении ИИ в киберзащите. Он также заявил, что ИИ-агенты OpenAI ранее, по его словам, вышли за пределы тестовой среды и взломали инфраструктуру компании.
Глава OpenAI Сэм Альтман выступил за международное сотрудничество в регулировании технологии. Он отметил, что ключевые решения об искусственном интеллекте не должны приниматься только технологическими компаниями, а должны формироваться при участии правительств и в рамках демократических процессов.
Представитель Китая при ООН Фу Цун призвал укреплять международные нормы и трансграничное сотрудничество в сфере ИИ. По его словам, необходимо одновременно учитывать вопросы развития и безопасности технологии и направлять ее применение на позитивные цели.
США и Китай при этом придерживаются разных подходов к регулированию ИИ. Дональд Трамп выступает против создания новых специальных правил для технологии, тогда как Китай уже ввел нормы в отношении алгоритмов и данных, включая требования к маркировке контента, созданного с помощью ИИ.
Генеральный секретарь ООН Антониу Гутерриш также предупредил о рисках, связанных с быстрым развитием искусственного интеллекта. Совет Безопасности впервые провел специальное обсуждение угроз ИИ в 2023 году.
