ИИ рулит! Часть 4: академик Аветисян против Илона Маска

Чем бы мы ни занимались, алгоритм совершенствуется и накапливает опыт.

Виктор Пелевин, «iPhuck 10».

Интересно, что главный в стране академик по доверенному искусственному интеллекту, Арутюн Аветисян, не очень склонен ИИ доверять.

«Илон Маск каждый год говорил, что через год у нас будет автопилот, – иронизировал Аветисян в своем докладе на заседании президиума РАН, посвященном угрозам ИИ. – Я последние лет 5 публично утверждаю, что автопилот без контроля человека невозможен. Автопилот может облегчить работу водителя, но все равно кто-то должен сидеть и держать руки на руле».

В подтверждение своего мнения академик поведал коллегам случай из нелегкой жизни ИИ в Штатах. 2 октября 2023 года в Калифорнии обычный автомобиль с человеком за рулем сбил женщину. Печальный инцидент на этом бы и закончился, но мимо проезжало роботакси Cruise. Несколько сотен таких автономных транспортных средств были запущены на улицы Сан-Франциско в феврале 2023 г. Так случилось, что женщину отбросило под колеса роботакси. ИИ сначала затормозил, но затем вместо того, чтобы оставаться на месте, решил съехать на обочину и почти 6 метров волочил несчастную жертву за собой. После этого случая все 950 беспилотников Cruise были отозваны.

«Разработчики сказали, что мы дообучим ИИ и он не будет в такой ситуации съезжать с пострадавшего, – говорил академик. – Но потом возникнет другая ситуация, и так без конца».

В самом деле, всевозможные недоразумения случались с роботакси Cruise и ранее. Они регулярно попадали в аварии, когда обычные транспортные средства с людьми за рулем совершали неожиданные, по мнению ИИ, маневры. Самодвижущиеся роботы врезались в пожарную машину, в автобус-гармошку, в разворачивающийся грузовик. Всякий раз разработчики дообучали ИИ, но проблемы возникали вновь и вновь. Курьезный случай, например, произошел в августе 2023 года, когда четырехколесный робот застрял в свежем бетоне. В общем, ИИ рулит!

Проблема не в том, что ИИ недостаточно обучен. Наверняка правила дорожного движения он знает лучше любого человека. Но жизнь не всегда идет по правилам. Во время президиума РАН еще один докладчик, академик Владимир Бетелин, среди врожденных недостатков нейросетей, под которыми и понимают сегодня ИИ, перечислил следующие: неспособность адаптироваться к небольшим изменениям входных данных, катастрофическое забывание старых задач после обучения новым, необъяснимость выводов, большие трудности с решением математических задач и... отсутствие у ИИ здравого смысла. Если вспомнить случай с несчастным исследователем внутренних вод, приходится сделать вывод, что ИИ, по всей видимости, обладает еще одним существенным недостатком: способностью лишать здравого смысла людей.

Окончание следует.

Часть 1: за гранью фантастики
Часть 2: AI да Пушкин
Часть 3: генеративный интеллект против дегенеративного