Власть роботов. Как подготовиться к неизбежному

По окончании пандемии коронавируса противоречия между Соединенными Штатами и Китаем значительно усилились. Широко распространилось понимание того, что чрезмерная зависимость от китайского производства может угрожать доступу США к принципиально важному стратегическому сырью, а также медицинским расходникам и лекарствам. Еще до кризиса было ясно, что экономическая синергия и взаимозависимость этих двух стран — явление, которое историк Ниал Фергюсон назвал в 2006 году «Кимерикой», — постепенно разрушается. Если противоречия обострятся и отдаление двух стран продолжится, определяющими факторами этого процесса неизбежно станут конфликт и конкуренция в сфере создания и использования искусственного интеллекта. По мере углубления понимания того, что ИИ является системной и стратегической технологией, перспектива полномасштабной гонки Китая и США приобретает характер реальной опасности.

Рассел убежден, что автономные системы летального вооружения — то есть системы, которые, по определению ООН, способны «обнаруживать, выбирать и уничтожать живые цели без участия человека», — необходимо признать новым типом оружия массового уничтожения. Иными словами, подобные системы вооружений на основе ИИ могут стать такими же разрушительными и вызывать такой же хаос, как химическое, биологическое и даже ядерное оружие.
Это утверждение опирается прежде всего на следующий факт: с устранением прямого контроля человека и необходимости получать разрешение на убийство масштабы разрушений, вызываемых этим оружием, можно наращивать бесконечно.