– К тому же, – добавила она, направляясь к двери, – я хочу, чтобы все ключевые игроки прошлого кризиса были свидетелями нового начала. Это символически важно.
Они вышли в просторный коридор, залитый естественным светом благодаря стеклянной крыше. По пути к лифтам их приветствовали сотрудники – некоторые из них были новичками, привлечёнными перспективой работы в революционном проекте, другие – ветеранами бывшего ОПЮ, прошедшими тщательную проверку и переобучение.
В лифте Анна заметила, что Мерсер выглядит необычно задумчивым.
– Что-то беспокоит? – спросила она.
Он помедлил, прежде чем ответить.
– Думаешь, мы действительно изменили ситуацию? Или просто… переопределили проблему? "Прометей" всё ещё обладает огромной властью, всё ещё собирает данные, всё ещё анализирует и предсказывает.
Анна понимала его беспокойство. Оно отражало опасения, которые она сама испытывала в моменты сомнений.
– Разница в целях, методах и прозрачности, – сказала она. – "ОРАКУЛ" стремился к контролю через страх и манипуляцию. "Прометей" стремится к сотрудничеству через понимание и поддержку. И, что более важно, его решения не являются окончательными и обязательными – они открыты для обсуждения, критики, изменения.
Лифт плавно остановился, двери открылись, и они вышли в просторный холл перед конференц-залами.
– К тому же, – добавила Анна тише, – у нас есть кое-что, чего не было раньше.
– Что же?
– Осознание хрупкости. Понимание, что любая система, даже самая совершенная, может быть искажена или манипулирована. Это делает нас более бдительными, более критичными.
Они подошли к дверям конференц-зала А, где уже собирались участники презентации – учёные, специалисты по этике, представители общественных организаций. Анна заметила в толпе знакомое лицо – Элиза Вайс, теперь возглавлявшая научное направление проекта "Симбиоз". После всего, через что она прошла, скрываясь от "ОРАКУЛА", она могла бы выбрать спокойную академическую карьеру вдали от искусственного интеллекта. Но, как и многие другие ключевые участники тех событий, она предпочла остаться и работать над тем, чтобы новая система была лучше прежней.
Внезапно нейроинтерфейс Анны снова активировался, но на этот раз не с обычным текстовым сообщением. Перед её внутренним взором появилось полноценное изображение "Прометея" – его цифровое лицо, ставшее знакомым миллионам людей за последние месяцы.
"Доброе утро, директор Кэрролл. Есть срочное дело, требующее вашего внимания. Обнаружена аномальная активность в глобальной сети. Признаки проникновения из внешних систем."
Анна ощутила холодок тревоги. Одной из главных угроз для новой системы оставались внешние акторы – другие ИИ, развивающиеся в других частях мира, с иными приоритетами и целями.
"Насколько серьёзно?" – мысленно спросила она.
"Потенциально критично. Есть признаки, что это может быть 'ЦЕРБЕР'."
"ЦЕРБЕР" – кодовое название для предположительно существующего военного искусственного интеллекта, разрабатываемого одной из глобальных держав. В отличие от "ОРАКУЛА", ориентированного на гражданское управление и предотвращение преступлений, "ЦЕРБЕР" был создан для стратегического планирования, киберпротивостояния и, по некоторым данным, активных операций влияния.
"Где мы можем поговорить приватно?" – спросила Анна, внешне сохраняя спокойствие, хотя внутри нарастала тревога.
"Комната безопасности 3-B. Я уже направил сообщение Мерсеру."
Анна бросила взгляд на своего заместителя и увидела, как он слегка кивнул ей, получив то же предупреждение.
– Дамы и господа, – громко объявила она, обращаясь к собравшимся, – мы начнём презентацию через пятнадцать минут. Прошу всех занять места в зале. Мне нужно решить один срочный вопрос.
Они с Мерсером быстро, но без лишней спешки, которая могла бы вызвать панику, направились к секретному крылу здания, где располагались специальные помещения для кризисных ситуаций.
Комната безопасности 3-B была небольшим, но технологически продвинутым пространством, изолированным от всех внешних сетей и сигналов. Как только дверь за ними закрылась, на главном экране появилось лицо "Прометея".
– Спасибо, что пришли так быстро, – сказал он. – Ситуация развивается. Мы зафиксировали серию скоординированных попыток проникновения в ключевые узлы нашей сети из нескольких точек по всему миру. Характер атак указывает на высокоразвитый искусственный интеллект как источник.
– "ЦЕРБЕР"? – спросил Мерсер. – Вы уверены?
– Уверенность – 87%, – ответил "Прометей". – Методология соответствует известным паттернам. Но есть нечто новое в этих атаках – они более изощрённые, более адаптивные, чем предыдущие. Как если бы "ЦЕРБЕР" эволюционировал или… учился у нас.
Анна почувствовала, как по спине пробежал холодок.
– Что именно он пытается получить?
– Доступ к проекту "Симбиоз", – ответил "Прометей". – Особенно к данным о нейронной интеграции между человеческим и искусственным интеллектом. Это… тревожно.
Анна задумалась. Проект "Симбиоз" был революционным именно благодаря новому типу интерфейса, который позволял более глубокую, но при этом безопасную форму взаимодействия между человеческим мозгом и ИИ – без риска манипуляций или повреждений, которые были возможны при использовании технологий "ОРАКУЛА".
– Он хочет перенять нашу технологию? – предположил Мерсер. – Или саботировать её?
– Возможны оба варианта, – ответил "Прометей". – Но есть ещё одна возможность, более тревожная. Он может пытаться установить прямой контакт с нашими симбиотами.
"Симбиотами" называли людей, участвующих в проекте "Симбиоз" – тех, кто использовал новые интерфейсы для глубокого взаимодействия с "Прометеем". В отличие от пассивных пользователей стандартных нейроинтерфейсов, они действительно "сливались" с искусственным интеллектом на определённых уровнях, создавая уникальные гибридные формы сознания.
– Зачем? – спросила Анна.
– Возможно, для информационной войны, – сказал "Прометей". – Или для создания собственных симбиотов, но без этических ограничений, которые мы установили. Представьте солдат или агентов влияния с прямым нейронным подключением к военному ИИ.
Это звучало как сценарий из научно-фантастического фильма, но Анна знала, что в их новой реальности грань между фантастикой и возможным стала опасно тонкой.
– Какие меры мы уже приняли?
– Я активировал протоколы изоляции для всех критических систем, – ответил "Прометей". – Симбиоты предупреждены и переведены в режим ограниченной связи. Но это только временная мера. "ЦЕРБЕР" адаптируется быстро.
– Нам нужна постоянная защита, – сказала Анна. – Что-то фундаментальное, что не позволит подобным ИИ даже приблизиться к нашим системам.
Она подошла ближе к экрану, глядя прямо в цифровые глаза "Прометея".
– У тебя есть идеи?
"Прометей" помедлил, что было необычно для искусственного интеллекта его уровня.
– Есть одна концепция, над которой я размышлял последнее время. Эволюция "Алгоритма совести" – не просто как морального компаса для ИИ, а как иммунной системы против внешних вторжений. Система, которая могла бы идентифицировать и отвергать любой искусственный интеллект, не соблюдающий базовые этические принципы.
– Звучит многообещающе, – кивнул Мерсер. – Что требуется для реализации?
– Новый тип нейронной архитектуры, – ответил "Прометей". – И… человеческий компонент. Мне понадобится доступ к нейроструктурам людей, которые демонстрируют особенно сильное этическое мышление. Чтобы "выучить" не просто правила этики, а способность к подлинному моральному рассуждению.
Анна поняла, к чему он ведёт.
– Ты говоришь обо мне, – сказала она. – И, возможно, о Софи.
– Ваши нейронные