Кратко
- Два эксперта по безопасности из США и Китая предложили «красные линии», запрещающие ИИ самостоятельно атаковать ядерные системы.
- Авторы также призвали создать военную горячую линию по ИИ и общее определение человеческого контроля.
- Скорость ИИ и его непредсказуемое поведение могут оставить лидерам мало времени, чтобы остановить эскалацию конфликта.
Эксперты по безопасности из США и Китая предложили правила, которые запретят искусственному интеллекту самостоятельно запускать кибератаки против систем ядерного командования или принимать решение о применении ядерного оружия.
Недавний доклад Brookings и Шанхайского университета Фудань призывает США и Китай распространить свои обязательства по сохранению человеческого контроля над ядерным оружием на другие военные применения ИИ, включая кибератаки на системы ядерного командования.
«Президенты Дональд Трамп и Си Цзиньпин могут взять на себя ведущую роль в управлении этими опасностями, согласившись с тем, что только люди, а не ИИ, должны принимать решение о начале кибератаки против систем ядерного командования, управления и связи (NC3) или критической инфраструктуры друг друга», — написали исследователи.
Системы NC3 помогают правительствам обнаруживать угрозы, решать, применять ли ядерное оружие, и передавать приказы на запуск, но сбои на любом этапе могут нарушить связь, неверно истолковать атаку, подтолкнуть к первому удару или вызвать случайный или несанкционированный запуск.
«Распространение принципа, применяемого к ядерному оружию — что атаки со стратегическими последствиями должны выражать человеческое намерение и подлежать человеческой ответственности — не требует, чтобы Вашингтон и Пекин разделяли другие принципы кибербезопасности или защиты инфраструктуры», — писали исследователи.
Предлагаемое соглашение потребовало бы от обеих стран снизить риск того, что случайность, человеческая ошибка, непредсказуемый ИИ или несанкционированные субъекты могут спровоцировать атаки со стратегическими последствиями.
Призыв к мерам защиты по образцу ядерных является частью растущих дебатов о том, как замедлить развитие ИИ и удержать все более мощные системы под контролем человека. Особенно остро эта проблема стоит в военной сфере, где автоматизированные решения, принимаемые за миллисекунды, могут превратить ложное предупреждение или кибератаку в ядерный кризис.
Эта обеспокоенность была подчеркнута в феврале, когда модели от OpenAI, Google и Anthropic применили ядерное оружие в 95% протестированных сценариев военных игр, хотя эксперты предупредили, что симуляция, возможно, поощряла эскалацию.
BitcoinBTC · USD
$76,418−0.94%
Sep 10Sep 12Sep 14Sep 16Sep 17
$79.2k$78.0k$76.7k$75.5k
24h HighHigh$77,024
24h LowLow$75,602
VolVol$872.8M
Рыночные прогнозыКоэффициенты от Myriad
Данные о ценах от CoinGeckoCoinGeckoБольше новостей и прогнозов о Bitcoin →
В том же месяце Anthropic отказалась выполнить требования Пентагона снять ограничения Claude на массовое наблюдение и полностью автономное оружие. Трамп приказал федеральным агентствам прекратить использование технологий компании, но федеральный судья 28 августа постановил, что администрация незаконно отомстила Anthropic.
С тех пор призывы к сдержанности распространились по всей отрасли. Ранее в этом месяце генеральный директор Anthropic Дарио Амодеи призвал разработчиков замедлить рост возможностей, получив поддержку генерального директора OpenAI Сэма Альтмана и владельца xAI Илона Маска, в то время как OpenAI обратился к Конгрессу с вопросом, могут ли компании координировать замедление, не нарушая антимонопольное законодательство.
Поскольку обязательного замедления не существует, авторы Brookings предлагают более узкое правило: только люди должны иметь право санкционировать атаки на системы ядерного командования или применение ядерного оружия.
«Управление военным ИИ — это не переговоры, которые могут позволить себе ждать, — это гонка со временем», — написали они.
