Машины перехитрят людей?

   Новости, опубликованные на технологическом сайте New York Post, освещают опасения относительно новейших технологий, которые становятся всё более интеллектуальными и, кроме того, независимыми.

   Возможно, многие люди скажут, что автор слишком часто смотрит "Матрицу", однако аргументы кажутся обоснованными. Согласно статье, многие специалисты всё чаще задаются вопросом, существуют ли ограничения научных исследований, которые могут привести к потере контроля людьми над тем, что именно следует считать разумными мерами. В качестве примеров обычно указывают целый ряд технологий, таких как экспериментальные медицинские системы, которые взаимодействуют с больными для имитации эмпатии, и напоминают о компьютерных червях и вирусах, которые не поддаются истребление, и, таким образом, вполне можно считать, что они достигли уровня "таракана" с точки зрения машинного интеллекта. "Робот, который может открыть дверь и самостоятельно найти электрическую розетку для подпитки. Компьютерные вирусы, которые никто не может остановить. Беспилотные летательные аппараты-хищники, которые, хотя всё ещё управляются дистанционно человеком, вплотную подошли к машине, способной убивать автономно."

   Специалисты, ведущие учёные в области искусственного интеллекта и робототехники, встретились на конференции Asilomar Conference Grounds в Калифорнии, чтобы более подробно обсудить этот вопрос. Сосредоточив внимание на потенциальной эксплуатации искусственного интеллекта преступниками и возможные угрозы для человеческих рабочих мест, они пришли к выводу, что, хотя имеется "вполне закономерное беспокойство", вероятность появления "в высшей степени централизованного супер-разума" чрезвычайно мала, также как вероятность самостоятельного зарождения супер-разума на основе интернета.

   Конференция была организована Ассоциацией по улучшению искусственного интеллекта (Association for the Advancement of Artificial Intelligence, A.A.A.I.). Доклад о выводах, сделанных в ходе конференции, будет опубликован позднее в этом году. Разработчик Microsoft и председатель совета A.A.A.I., доктор Хорвиц (Dr Horvitz) говорит, что в докладе будет сделана попытка оценить, в какой степени супер-интеллект приведёт к потере человеческого контроля над компьютерным интеллектом. Хорвиц сообщает, что вместо того, чтобы пытаться уменьшить важность дальнейших исследований в области искусственного интеллекта, доклад будет рассматривать способы изменения отношения людей к компьютерным технологиям с целью не допускать слепого движения к "компьютерной катастрофе".

   Статья под названием: "What Lurks Beneath" (Что скрывается под), опубликованная в британском издании Newsweek на этой неделе, изучает вопрос немецкой технофобии, сдерживающей её ключевые отрасли, и сообщает, что это повторение того же страха. Хотя она ссылается на генетические модификации, а не на компьютерный интеллект, принцип тут тот же самый. Интересная цитата: "Еще несколько лет назад немецкие учебники были полны апокалиптических предупреждений о том, что компьютеры будут уничтожать рабочие места, убьют межличностное общение и превратят людей в "анонимный код". Кажется, с учетом обеспокоенности ученых, эти предупреждения не были настолько паникёрскими, как считалось ранее.