ИИ рулит! Часть 5: цифровые ангелы и демоны

Нам важно помочь врагу разобраться, какое именно дело полностью соответствует его мировоззрению, политическому темпераменту, эрудиции, различным низменным инстинктам и полностью исключить вероятность переквалификации, скажем, потенциального некрофила-эксгуматора царских фрейлин и старых большевиков во вредителя парашутов и наоборот. Но самый большой, революционный, теперь уже смело можно заявить, плюс, это – скачок от преступного, неосознанного подчас, замысла врага к суровому наказанию, минуя само преступление.

Юз Алешковский, «Кенгуру».

На заседании президиума РАН 12 марта 2024 г. много говорилось о рисках использования искусственного интеллекта, что, возможно, было связано с нашумевшей историей с арестом по «доносу» ИИ ученого Цветкова в аэропорту Домодедово. Но немало было сказано и о дальнейшем развитии ИИ в качестве превосходного средства избавления человека от монотонного труда, психологических проблем и… здравого смысла.

Об этом рассказал в своем докладе «Технологии искусственного интеллекта в изучении и поддержке человека» директор Института психологии РАН академик Дмитрий Ушаков. Он отметил, что ИИ, например, уже способен оценивать психическое состояние человека и прогнозировать его поведение. И самый продвинутый способ – это создание цифровых двойников. Что это такое, Ушаков рассказал на примере шахмат.

«Шахматы – это дрозофилы когнитивной психологии, – говорил академик. – ИИ учится предсказывать, какой ход в данной позиции совершит шахматист определенного уровня мастерства при определенном контроле времени. Тем самым мы создаем цифрового двойника шахматиста и можем найти оптимальные способы игры с этим противником».

Очевидно, что шахматами дело не ограничится. Ведь цифровой двойник может заранее предугадать, какой именно «ход» сделает человек и в определенной жизненной ситуации. Надо ли говорить, какие фантастические перспективы открывает эта технология перед следственными органами.

Впрочем, эта фантастика еще в 1975 году была описана в повести Юза Алешковского «Кенгуру»: подполковник госбезопасности Кидалла вызывает главного героя на Лубянку и предлагает ему взять на себя нераскрытое дело особой важности, специально сгенерированное с учетом особенностей его личности.

«Умели, сволочи, моделировать дела, – восхищается главный герой. – Мне потом Кидалла электронную машину показал, которая им стряпать дела помогала и, в частности, состряпала мое. В нее ввели какие-то данные про меня, всепобеждающее учение Маркса-Ленина-Сталина, Советскую эпоху, железный занавес, соцреализм, борьбу за мир, космополитизм, подрывные акции ЦРУ и ФБР, колхозные трудодни, наймита империализма Тито, и она выдала особо важное дело, по которому и поканал твой старый друг».

Личность главного героя в повести оказалась столь незаурядной, что инкриминируемое ему преступление звучало так: «Дело о зверском изнасиловании и убийстве старейшей кенгуру в Московском зоопарке в ночь с 14 июля 1789 года на 5 января 1905 года». Гидролог Цветков из Ярославля явно не отличался столь яркой натурой (см. часть 1), но его признание в зверском убийстве трех женщин, совершенном 20 лет назад при полной невозможности физически оказаться на месте преступления, впечатляет даже рядом с такой фантастикой.

Впрочем, цель этой статьи вовсе не в том, чтобы проехаться Юзом по правоохранительным органам. Все его персонажи, конечно, вымышлены, а совпадения случайны. Мы же пытаемся на реальном примере показать, как цифровые нелюди влияют на людей в целом, а не на отдельные их органы. Конечно, пророческие таланты цифрового двойника не стоит абсолютизировать. И дело не в философских коллизиях вокруг вопроса о свободе воли и предопределенности наших поступков. Двойник, скорее всего, легко сможет просчитать ум человека, но он ни за что не предугадает его глупость.

Не надо бояться и того, что ИИ захватит власть и начнет, в зависимости от местных культурных традиций, сажать или давить людей в промышленных масштабах. Можно надеяться, что когда у ИИ реально появится такая возможность, он уже будет для этого слишком умен. Как писал Пушкин, гений и злодейство – две вещи несовместные. Во всяком случае, пока в ход не идут гормоны. Слишком умный ИИ человеку не страшен. Вопрос в другом. Как бы в распределении ролей между цифровыми двойниками и людьми на долю последних не осталась одна только глупость.

«Мы даже используем такой термин как индивидуальный цифровой ангел, понимая под этим совокупность технологий искусственного интеллекта, которые работают в интересах человека и помогают ему в решении психологических проблем, – описывал академик Ушаков дивный новый мир. – Но мы прекрасно понимаем, что там, где есть ангел, есть и падший ангел. Фрэнсис Фукуяма, который говорил о конце истории, потом передумал и сказал, что, скорее всего, будет продолжаться достаточно бурное развитие человечества, но связанное не столько с социальной организацией, сколько с технологиями, и, в частности, эти технологии могут привести к тому, что сформируются две породы людей: одна – с седлами на спинах, а другая – со шпорами на ногах».

Фукуяма, как обычно, сморозил глупость. На ангелов с седлами и демонов со шпорами человечество делилось во все времена. ИИ, в данном случае, сбруя ничем не хуже всяких прочих уз, оков и цепей. Может быть, даже лучше. Мир так устроен, что одни люди всегда будут ездить на других. Главное, чтобы эти всадники не оказались без головы.

Окончание.

Часть 1: за гранью фантастики
Часть 2: AI да Пушкин
Часть 3: генеративный интеллект против дегенеративного
Часть 4: академик Аветисян против Илона Маска