Коротко
- Двоє експертів з безпеки зі США та Китаю запропонували «червоні лінії», які забороняють ШІ самостійно атакувати ядерні системи.
- Автори також закликали до створення військової гарячої лінії з питань ШІ та спільного визначення людського контролю.
- Швидкість ШІ та його непередбачувана поведінка можуть залишити лідерам мало часу, щоб зупинити конфлікт, що загострюється.
Експерти з безпеки зі Сполучених Штатів і Китаю запропонували правила, які забороняли б штучному інтелекту самостійно запускати кібератаки проти систем ядерного командування або ухвалювати рішення про застосування ядерної зброї.
Нещодавня доповідь Брукінгського інституту та Шанхайського університету Фудань закликає США та Китай поширити своє зобов’язання щодо людського контролю над ядерною зброєю на інші військові застосування ШІ, зокрема на кібератаки проти систем ядерного командування.
«Президенти Дональд Трамп і Сі Цзіньпін можуть очолити управління цими небезпеками, погодившись, що лише люди, а не ШІ, повинні ухвалювати рішення про початок кібератаки проти систем ядерного командування, контролю та зв’язку (NC3) або критичної інфраструктури одне одного», — написали дослідники.
Системи NC3 допомагають урядам виявляти загрози, вирішувати, чи застосовувати ядерну зброю, та передавати накази на запуск, але збої на будь-якому етапі можуть порушити зв'язок, неправильно витлумачити атаку, підштовхнути до першого удару або спричинити випадковий чи несанкціонований запуск.
«Поширення принципу, застосовуваного до ядерної зброї — що атаки зі стратегічними наслідками мають виражати людський намір і підлягати людській відповідальності — не вимагає від Вашингтона і Пекіна поділяти інші принципи кібербезпеки чи захисту інфраструктури», — написали дослідники.
Запропонована угода вимагала б від обох країн зменшити ризик того, що випадковість, людська помилка, непередбачуваний ШІ або несанкціоновані суб'єкти могли б спричинити атаки зі стратегічними наслідками.
Заклик до запобіжних заходів на зразок ядерних є частиною зростаючої дискусії про те, як уповільнити розвиток ШІ та утримати дедалі потужніші системи під людським контролем. Занепокоєння особливо гостре у військовій сфері, де автоматизовані рішення, ухвалені за мілісекунди, можуть перетворити хибне попередження або кібератаку на ядерну кризу.
Це занепокоєння було підкреслено в лютому, коли моделі від OpenAI, Google і Anthropic застосували ядерну зброю в 95% протестованих сценаріїв воєнних ігор, хоча експерти застерегли, що симуляція могла заохочувати ескалацію.
BitcoinBTC · USD
$76,418−0.94%
10 вер12 вер14 вер16 вер17 вер
$79.2k$78.0k$76.7k$75.5k
24-год. максимумМаксимум$77,024
24-год. мінімумМінімум$75,602
ОбсягОбсяг$872.8M
Ринкові прогнозиКоефіцієнти від Myriad
Дані про ціни від CoinGeckoCoinGeckoБільше Bitcoin новин і прогнозів →
Того ж місяця Anthropic відмовилася виконати вимоги Пентагону щодо скасування обмежень Claude на масове спостереження та повністю автономну зброю. Трамп наказав федеральним агенціям припинити використовувати технології компанії, але федеральний суддя 28 серпня постановив, що адміністрація незаконно помстилася Anthropic.
Заклики до стриманості відтоді поширилися по всій галузі. Раніше цього місяця генеральний директор Anthropic Даріо Амодеї закликав розробників сповільнити зростання можливостей, отримавши підтримку від генерального директора OpenAI Сема Альтмана та власника xAI Ілона Маска, тоді як OpenAI запитала Конгрес, чи можуть компанії координувати сповільнення, не порушуючи антимонопольне законодавство.
Оскільки жодного обов'язкового сповільнення не запроваджено, автори Brookings пропонують вужче правило: лише люди повинні мати право санкціонувати атаки на системи ядерного командування або застосування ядерної зброї.
«Управління військовим ШІ — це не переговори, які можуть дозволити собі чекати — це гонка з часом», — написали вони.
