OpenAI может замедлить разработку наиболее передовых систем искусственного интеллекта на фоне сбоев и случаев потери контроля над моделями. Об этом сообщает Bloomberg со ссылкой на слова генерального директора компании Сэма Альтмана.
На общекорпоративном собрании Альтман заявил, что OpenAI может согласовать темпы развития технологий с другими ИИ-лабораториями. По его мнению, другие разработчики также могли бы придерживаться более осторожного подхода. Еще в июле глава компании обсуждал с представителями Белого дома необходимость контроля за скоростью обучения новых моделей.
В OpenAI уже приостановили часть направлений разработки и внутренних процессов обучения из соображений безопасности. Главный научный сотрудник компании Якуб Пачоцки также выступил за координацию между разработчиками и заявил, что добровольное замедление может стать обычной практикой до появления единых стандартов безопасности.
Таким образом, компания рассматривает возможность ограничить темпы создания наиболее мощных ИИ-систем, чтобы снизить риски, связанные с их поведением и контролем над моделями.
