ИИ рулит! Часть 3: генеративный интеллект против дегенеративного

За нами следят алгоритмы. И они следят не за нами. Они следят за осцилляцией информационных паттернов.

Виктор Пелевин, «iPhuck 10».

Насколько убедительными могут быть фейки в исполнении современного ИИ, показывает пример из доклада академика Арутюна Аветисяна, прозвучавшего на заседании президиума Российской академии наук 12 марта 2024 г.

Академик рассказал, что в феврале 2024 года мошенники организовали для сотрудника транснациональной компании в Гонконге фейковую видеоконференцию с руководством в Лондоне. И руководство, сгенерированное ИИ, было столь убедительным, что сотрудник без вопросов перевел жуликам 25,6 млн долларов.

«Это был не выживший из ума пенсионер, а профессиональный банкир», – подчеркнул академик.

Если уж такие люди становятся жертвами ИИ, то что говорить о простых смертных или даже о следователях отдела по особо важным делам Следственного комитета РФ по г. Москва (см. часть 1). В сущности, все мы лишь лопухи на щедро поливаемом цифровыми потоками информационном поле. А те, кто любит пораскинуть мозгами, – раскидистые лопухи.

«Никто не сомневается, что на выборах – в демократических странах уж точно – через социальные сети идет огромное влияние, и можно, по сути, не подтасовывая выборы в урне, подтасовывать их результат через это влияние, – заявил академик Аветисян. – Причем если раньше это стоило больших денег, то с развитием так называемых больших языковых моделей генеративного ИИ и других самых последних тенденций это становится все дешевле и дешевле, и при этом добраться можно до самого последнего человека, потому что практически отсутствуют люди, которые не находились бы в сети. И даже на таких можно влиять через родственников или друзей».

В общем, теперь, чтобы повлиять на выборы или свергнуть правительство, не надо покупать газеты, радиостанции, телеканалы, нанимать армию совершенно независимых журналистов или финансировать вооруженное подполье. Достаточно запустить литературный алгоритм (см. часть 2). Но, как нетрудно понять из намеков академика, главная подлость состоит в том, что государства, желающие сохранить свой суверенитет в неприкосновенности, просто вынуждены бороться с этими подтасовками непосредственно в урнах.

«В развитых странах огромные институты занимаются тем, что создают для компьютерных игр персонажей, которые, когда вы с ними играете, выясняют о вашей психологии больше, чем вы сами о себе знаете, – вещал Аветисян. – А потом целевым образом на вас можно будет повлиять уже через другие каналы, в том числе оффлайн. К вам может подойти человек, с вами поговорить, и вы вдруг неожиданно броситесь под машину».

Продолжение следует.

Часть 1: за гранью фантастики
Часть 2:AI да Пушкин