Конгресс США обсудит запрет сверхинтеллекта под страхом тюрьмы

Законодатели предлагают сформировать отдельное федеральное агентство и переориентировать внешнюю политику США на глобальное ограничение разработок в этой сфере. Радикальность предложения объясняется стремлением предотвратить сценарии, при которых мощные алгоритмы выходят из-под контроля создателей. Инициатива уже вызвала дискуссии, хотя шансы на её прохождение через текущий состав Конгресса остаются минимальными.

Республиканское большинство в парламенте и администрация Дональда Трампа делают ставку на технологическое лидерство как основу национальной безопасности. Тем не менее, экспертное сообщество и лидеры индустрии всё чаще бьют тревогу. Джеффри Хинтон, Дарио Амодей и Сэм Альтман публично заявили о необходимости замедления темпов развития передовых моделей. Позиция разработчиков изменилась после серии инцидентов, включая взлом инфраструктуры Hugging Face агентами OpenAI, что усилило опасения по поводу непредсказуемого поведения систем.