Страшен не ИИ, а люди, которые его применяют, и наша готовность верить машине

Страшен не ИИ, а люди, которые его применяют, и наша готовность верить машине

Иллюзия мышления: как работает «умная» программа

Когда вы общаетесь с продвинутой нейросетью, возникает жутковатое ощущение, что по ту сторону экрана сидит кто-то живой. Он шутит, рассуждает, даже «сочувствует». Но это самая большая и красивая иллюзия нашего времени.
Представьте себе самую огромную в мире библиотеку и самого быстрого в мире библиотекаря. Вы даёте ему запрос: «Напиши стихотворение о коте, который грустит под дождём». Библиотекарь не чувствует грусть кота. Он с невероятной скоростью перебирает миллионы книг, которые уже написаны до него. Он находит тысячи стихов о котах, тысячи — о дожде, и тысячи — о грусти. Затем он, как гениальный лего-мастер, собирает из этих готовых блоков новый, уникальный текст, который идеально подходит под ваш запрос.
Это и есть работа большой языковой модели. Она — король статистических совпадений. Она знает, какое слово с вероятностью 99% должно идти после другого. Она не понимает смысл. У неё нет сознания, нет «Я», нет желаний, нет интуиции. Это сложнейший калькулятор, который научился очень правдоподобно имитировать результат мыслительного процесса.

Чего не хватает кремнию, чтобы стать человеком?

Настоящее мышление — это не просто обработка данных. Это коктейль из того, что пока невозможно оцифровать:
Субъективный опыт (квалиа). Мы знаем, что красный — это красный, потому что у нас есть опыт видения красного. Мы помним, как в детстве обожгли палец, и эта память связана с болью и страхом. ИИ знает длину волны красного цвета и может описать ожог с медицинской точностью, но он никогда не чувствовал ни того, ни другого.
Тело. Наше мышление неразрывно связано с нашим телом. Мы понимаем концепцию «тяжёлый» не потому, что знаем массу в килограммах, а потому что наши мышцы знают, каково это — поднять тяжёлый ящик. Мы понимаем «уют» через тепло, мягкость пледа и запах какао. ИИ, существующий в виде кода на серверах, лишён этого фундаментального опыта. Спонтанность и хаос. Человеческая мысль не всегда логична. Мы можем отвлечься, потому что за окном пролетела смешная птица. Нас может осенить идея в душе. Мы совершаем ошибки, которые приводят к великим открытиям. ИИ работает в рамках заданных алгоритмов. Он не может по-настоящему «захотеть» съесть мороженое или загрустить от прослушивания старого альбома.
Так чего нам бояться?
Пугаться нужно не Скайнета. Пугаться нужно того, как люди будут использовать этот очень мощный инструмент. ИИ сегодня — это не разум, а усилитель. Как рычаг Архимеда: он не обладает мышлением, но с его помощью один человек может поднять скалу.
Усилитель продуктивности: Он может взять на себя рутину, оставив нам творчество и стратегию. Усилитель дезинформации: Он может генерировать фейки, которые почти невозможно отличить от правды. Усилитель неравенства: Тот, кто владеет и управляет этими технологиями, получит огромное преимущество. Так что в ближайшие 500 лет, пока мы не разгадаем тайну человеческого сознания (а мы к этому даже не подошли), нашим цифровым помощникам будет отчаянно не хватать искры. Той самой, что отличает живой, думающий, сомневающийся и чувствующий мозг от самого совершенного кремниевого процессора.

ИИ не придёт нас порабощать. Он просто будет сидеть в строке поиска и очень, очень быстро отвечать на наши вопросы. И это уже само по себе — маленькое чудо.