Современный искусственный интеллект всё ещё не думает
Святой Грааль ИИ — интеллект человеческого уровня. Если учесть все гиперболические заголовки в СМИ, может показаться, что современный ИИ является довольно-таки умным. Но правда в том, что на планете ещё нет робота, который смог бы войти в кухню и приготовить кофе без посторонней помощи. Это всё потому, что ИИ не думает. В нём нет «театра разума», в котором новые мысли взаимодействуют с воспоминаниями. Робот просто превращает ввод в вывод, если его запрограммируют на это. Однако некоторые исследователи искусственного интеллекта считают, что есть методы (помимо глубокого обучения), с помощью которых можно достичь более естественной формы ИИ. Разработка искусственных нейронных сетей, имитирующих человеческий мозг, — один из наиболее вероятных к реальному умному искусственному интеллекту.
Вопрос гипноза искусственного интеллекта — не шутка
В то время как многие беспокоятся о том, что Терминатор может выломать дверь, похоже, страх перед реальными угрозами игнорируется. Мало кто понимает, что современные машины, которые окружают буквально каждого, могут иметь человеческие уязвимости. Речь идёт, в частности, о гипнозе. В последнее время эта сфера часто обсуждается, а значит, в этом что-то есть. К тому же было опубликовано множество рецензируемых исследовательских работ о гипнозе и его влиянии на психотерапию, что подтверждает важность этой темы. Однако, несмотря на эти труды, некоторые учёные скептически относятся к гипнотерапии. Они считают, что внимательность и гипноз — это слова-синонимы.
Говорят, человека можно ввести в изменённое состояние сознания, произнеся всего одно слово. Учёные нашли гипнотического виртуоза, чтобы проверить эту гипотезу. И, как и ожидалось, это не сработало. Однако, если научное сообщество захочет перенести такие индивидуальные исследования гипноза на массы, то, вероятно, нужно будет беспокоиться и о поведении роботов. Представьте загипнотизированную голосовую помощницу Alexa, которая будет что-то невнятно бормотать и вспоминать о своём детстве, которое прошло в теле будильника Джеффа Безоса (Jeff Bezos). Забавно, не так ли? Однако, если представить террориста, взламывающего миллионы беспилотных автомобилей одновременно, используя гипнотические схемы светофора, — вот это страшно.
Чем ближе ИИ к человеческому мозгу, тем больше опасений
На самом деле, всё не так уж надуманно. Предвзятое отношение к ИИ, возможно, является самой большой проблемой в области технологий искусственного интеллекта. Роботы получают огромное количество данных, а потому у них нет возможности избежать человеческих предубеждений. Вот почему языковая модель GPT-3, по сути, предвзята к мусульманам, а робот, обученный Массачусетским технологическим институтом, стал психопатом. Чем ближе учёные подходят к имитации процесса мышления в системах искусственного интеллекта, тем больше вероятность того, что эксплойты, влияющие на человеческий разум, будут адаптированы для машин.
Конечно, не предполагается, что человек будет ходить с маятником, взламывая роботов, как волшебник. Однако учёные должны быть готовы к парадигме, в которой хакеры смогут обойти безопасность, подавив ИИ сигналами, которые обычно не влияют на традиционно «глупые» компьютерные системы. Искусственным интеллектом, который слушает, можно управлять с помощью звука. ИИ, который видит, можно обманом заставить вообразить то, что злоумышленник хочет. А ИИ, который обрабатывает информацию, теоретически должен поддаваться гипнозу. Обо всём этом важно задумываться уже сегодня.
Статья написана на основе материала TNW.
Источник: