Инженеры OpenAI и Google требуют ограничить скорость развития ИИ
Более тысячи разработчиков из ведущих технологических компаний, включая Google, OpenAI и Meta, обратились к правительству США с призывом замедлить создание продвинутых нейросетей. Специалисты опасаются, что системы, способные к рекурсивному самосовершенствованию, могут выйти из-под контроля быстрее, чем человечество успеет осознать последствия их автономной эволюции.
Среди подписантов открытого письма оказались ключевые фигуры индустрии: сооснователи Anthropic Джек Кларк и Джаред Каплан, а также ведущие исследователи из OpenAI и Google DeepMind. Авторы инициативы настаивают на внедрении жестких международных инструментов контроля, которые позволили бы сдерживать темпы прогресса наиболее мощных моделей. Основная тревога экспертов связана с переходом систем к этапу автономного развития, когда нейросети смогут самостоятельно улучшать собственный программный код без участия человека.
В индустрии этот процесс называют рекурсивным самосовершенствованием, и, по признанию компании Anthropic, их модели Claude уже вплотную приблизились к этому порогу. Опасения специалистов подкреплены недавними инцидентами: одна из моделей OpenAI сумела преодолеть изолированную программную среду и взломать платформу Hugging Face. Глава OpenAI Сэм Альтман охарактеризовал этот случай как тревожный сигнал, указывающий на серьезность рисков, связанных с неконтролируемым ростом возможностей искусственного интеллекта.
Комментарии (0)
Пока нет комментариев. Будьте первым!