– Можно сказать и так, – совсем по-человечески пожал плечами Косна. – А может, всё дело в каком-то нестандартном составе межзвёздного газа, из которого мы все в итоге и произошли. Избыток или недостаток какого-то элемента может привести к более широкому колебанию морально-этического компаса…»
Джессика шла по улице, погружённая в мысли, вспоминая о той далёкой встрече, прокручивая её в голове снова и снова. С тех пор теория Григорьева – Кумари получила подтверждение. Более того, Крис сейчас пытался найти биологическую разгадку эволюции гена эмпатии на основании фактов и гипотез с Тау Кита. Теория стала практикой, но всё равно в рабочих кругах звучала как «русско-индийская модель», ведь своим существованием она была обязана двум видным философам и простым членам Восьмёрки, волею судьбы оказавшимся жителями двух стран. Забавно, может философия у них в крови?
– Джессика! – окликнул её знакомый голос. Она обернулась. За ней ускоренным шагом шёл Сергей Хабаров – программист, «одолженный» у Мичико.
– Сергей! – помахала она ему, пытаясь понять, зачем он её догоняет.
– Привет, – сказал тот, когда они поравнялись. – Генрих закончил раздавать задачи, и я вот иду обедать, а потом планирую выполнить пару заданий для миссис Ламбер.
Всё ещё не понимая, почему он перед ней отчитывается, Джесс смогла выдавить лишь «Ого, как поздно вы обедаете», и замолчала в ожидании неких объяснений.
– Да, – Сергей замялся. – В общем, я понял, к чему вы клонили. Вы хотели найти объяснение, почему нельзя использовать искусственный интеллект для военных кораблей. Я тоже искал ответ. Правда, в другой области.
– Вот как? – Джесс мгновенно заинтересовалась. – И что же вам удалось выяснить?
– Вы знаете о проблеме самоосознания искусственного интеллекта? У нас об этом много говорили ещё до Согласия, – задал вопрос Хабаров.
– Вы про то, что ИИ может выйти из-под контроля и уничтожить создателей? – с улыбкой спросила она.
– Если бы! – Сергей явно загорелся идеей. – Подобная проблема была решена в Согласии, да и мы бы пришли к такому. В конце концов вопрос только в этической модели. То, что у нас вызывается генами или гормонами, для компьютера может быть базовым алгоритмом. Он не будет способен на уничтожение создателей, потому что это вызовет в нём боль. Условную, конечно. Сострадание.
Странно, а Мичико сегодня как раз говорила, что, по сути, искусственный интеллект – Несогласная форма жизни. Значит, вопрос решён. Но в чём же тогда проблема?
– Так вот, – продолжал программист-интуит, – основа такой системы – негласные, чёткие правила, запрещающие насилие, вызывающие боль. Но для компьютера нет разницы между «своими» и «чужими» людьми. Он не приемлет насилие в целом. Поэтому сам никогда не сможет принять решение убить, ведь тогда сумеет найти оправдание и убийству кого-то из Согласия или даже уничтожения его целиком. Представьте себе тысячи кораблей, способных взрывать звёзды, решивших вдруг, что этичным будет стереть Согласие с лица Вселенной!
О боже! Да ведь это лежало на поверхности. Использование ИИ возможно. Его невозможно заставить воевать. Потому что, если директивы этики можно обойти, то их можно обойти и в другой ситуации. А этого никто не готов допускать.
– Значит, люди ценны тем, что в них осталось немного от Несогласных? – пробормотала она вопрос не то к Сергею, не то к самой себе.
– Что? – уточнил Хабаров. – А! Ну да. Но это не ко мне. – Он махнул рукой. – Так вот, в искусственный интеллект заложена директива безусловного подчинения тому, кто им управляет. Для него высшим мерилом этики выступает его командир. А значит, если его слова противоречат другим базисам, базисы отступают. Командир корабля вполне может отдать приказ уничтожить врага.
– Но командир может делать это с расстояния. Разве нет? – Джессика хотела понять, узнавал ли Сергей что-то на данный счёт.
– Может, – кивнул тот, – но развитый противник способен блокировать ти-поле, и на расстоянии приказ не пройдёт. Поэтому для надёжности команда находится внутри корабля.
– Вы правы, Сергей! – Хилл улыбнулась. – Когда вы только находите на всё это время?
– Я с детства интересуюсь проблематикой искусственного интеллекта, Джессика, – скромно потупил глаза Сергей. – Столкнувшись с информацией о бое, в котором погибло много воинов Согласия, я стал искать данные, пытаясь разобраться, как и вы сейчас. Увы, решения без жертв не существует.
– Что ж. Спасибо вам большое, Сергей, – ещё раз улыбнулась Джессика, хотя в её мыслях уже мелькали новые вопросы. Например, почему недостаточно одного-единственного человека на борту корабля. – Вы очень помогли. Я пойду к Кристофу Ламберу, а вы, пожалуй, поспешите пообедать, хотя время уже к вечеру.
* * *
Шан был необычайно мил этой ночью. За дневными событиями Джессика и забыла, что у них здесь, на Марсе, есть и очень важная личная цель. Её беременность. Однако муж оказался на высоте. Ничего романтичнее она и не могла ожидать. Шан как-то выбил разрешение на полёт на вершину Олимпа. Ужин при свечах на покрытом замёрзшим углекислым газом скалистом уступе древнего вулкана, высочайшей горы в Солнечной системе, приятная музыка и, конечно же, сексуальная кульминация. Боги Олимпа, это было прекрасно. Джессика лежала в объятиях мужа на пледе, расстеленном на туристической платформе, и глядела на звёзды сквозь всполохи силового поля. Он был нежен. Он был романтичен. О, это было великолепно.
– Ты не устаёшь меня удивлять, Чжоу, – засмеялась Джесс наконец.
– Если честно… – замялся он. – Если уж совсем честно… Мне Волков посоветовал. Он тут ведь был, сказал, что…
– Да наплевать, что он сказал! – Джесс ущипнула его за нос. – И кто сказал, неважно. Волков или ещё кто-то! Ты ведь это сделал для меня! Ведь это именно ты хотел сделать! И люблю я тебя, а не кого-то ещё!
– И я люблю тебя. Всегда и навсегда.
Созвездия мерцали над головой. Было очень хорошо. Внезапно зазвонил телефон. Ответить на него на вершине вулкана под тонким слоем пузыря воздуха было тоже весьма романтично. Хотелось сказать «А мы сейчас на Олимпе». На Олимпе любви.
Звонил Ланге. Что ему понадобилось так поздно? Она приняла звонок на громкой связи.
– Генрих? – спросил за неё Шан.
– Шан, Джессика, – немец был весьма взволнован. – Зоам Ват Лур сбежал.
До купола они домчались за считаные минуты, едва успев одеться в полёте. Шан запихал в сумку всё, что притащил с собой, и платформа села на грунт прямо возле офиса Ланге. В здание супруги буквально влетели.
– Как так сбежал? – спрашивал у Ланге Кинг по видеосвязи. Его голограмма стояла посреди офиса. Мичико и Крис сидели в креслах, ещё пара сотрудников администрации устроилась на других. Генрих уселся на краешке стола. Видимо, они вовремя.