Сергей Зиновьев
Главная опасность, по словам эксперта, не в самом ИИ, а в том, что он подменяет собой процесс обучения незаметно для самого ученика.
«По сути дела, ребёнок не обучается тому, что ему преподают, он обучается только тому, как грамотно задать команду искусственному интеллекту, который выполнит требуемую работу», — объясняет Парфентьев.
В качестве примера он привел советский мультфильм про Вовку в Тридевятом царстве:
«Здесь искусственный интеллект — это как двое из ларца, одинаковых с лица. Ты даешь им команду, они беспрекословно выполняют. В результате мы на выходе получаем учащегося, который формально вроде бы освоил школьную программу, выполнил задания, но на самом деле он их не получил, потому что задание выполнено искусственным интеллектом»
Плавучесть норм
Отдельная опасность — способность нейросетей незаметно менять поведенческие установки детей. Механизм, по словам эксперта, предельно простой и от этого пугающий.
«Если каких-то паттернов он видит много, то он начинает думать, что это норма. Именно с этим связаны ситуации, когда искусственный интеллект начинает рассуждать неприемлемо для общественной морали — по сути дела, в него накидали соответствующих постов, он увидел, что их много, значит, посчитал это вариантом нормы», — уверен специалист.
ИИ не видит общество вокруг себя — он ориентируется исключительно на то, что в него ввели. А значит, ребёнок, столкнувшийся с определённым образом настроенной моделью, рискует воспринять транслируемые ему шаблоны как норму.
Мир без живых людей — фантастика или реальный сценарий?
Представляя недалекое будущее мы часто говорим о мире, где живых людей в сети почти не осталось, а человеческое мышление остановилось. Но возможен ли такой исход событий и как его предовтратить?
«Я не могу сказать, что искусственный интеллект именно выдрессирует человека. Скорее всего мы получим человека, который в процессе взросления научился только тому, что ему сейчас непосредственно надо — в первую очередь, как активировать искусственный интеллект таким образом, чтобы он выдавал нужный результат. И, собственно, всё», — подчеркнул Урван Парфентьев.
При этом система, как отмечает специалист, может рухнуть сама. Причиной он назвал не бунт машин, а их техническую зависимость от человека.
«Для того чтобы искусственный интеллект работал и развивался, нужен интеллект естественный. В какой-то момент мы можем оказаться в ситуации, когда специалисты, поддерживающие эту систему в работоспособном состоянии, окажутся в абсолютном меньшинстве», — предупреждает он.
Дальше — цепная реакция: системы начинают выходить из строя, чинить их некому, боты один за другим замолкают, а взамен не появляется ничего нового. Эксперт уверен, что вскоре человечество может столкнуться с кризисом естественных знаний.
Шведы правы?
Урван Парфентьев твердо уверен — шведский откат к бумаге — не ретроградство, а разумный шаг.
«Такой откат вполне возможен и, более того, желателен. Использование ИИ, повышение компьютерной грамотности должно наступать на следующем этапе — когда офлайновые навыки, что называется, вбиты в кровь», — заявил он.
По его словам, момент осознания того, что ИИ — не заменитель человека, а лишь помощник, должен приходить со взрослением. Если это происходит слишком рано, результат один — те самые «двое из ларца».
А как же профессия будущего — специалист по ИИ?
Развенчал эксперт и еще один миф: о том, надо ли бросать фундаментальное образование ради модной профессии «промпт-инженера».
«Обучение созданию и развитию ИИ — это в лучшем случае старшие классы школы, а дальше уже среднее, специальное и высшее образование. Этот хайп пройдет, как это было с экономистами и юристами в прошлые десятилетия и с кузнецами в Средневековье», — пояснил Парфентьев.
При этом гуманитариям, как он уточнял ранее вопреки расхожему мнению, в этой гонке точно найдётся место.
«Если мы создаём искусственный интеллект, нужны специалисты и технического, и гуманитарного плана. Откидывать гуманитариев ни в коем случае нельзя — иначе вы получите код, который будет работать абсолютно неграмотно».
Осознает ли себя ИИ?
Финальный и самый философский вопрос связан с тем, что современные языковые модели якобы описывают собственное сознание, описывая как представляют себя или собеседника. Но и тут Парфентьев смог нас успокоить.
«Это не осознание себя — это имитация живого партнёра в общении. Вы получаете суррогат общения с реальным человеком», — говорит он. — «ИИ — это, по сути, зеркало — отражение тех людей, которые его тренируют, которые вводят в него определённую информацию, на основе которой он обучается», — объяснил он.
Так страшен ли чёрт?
А вот тут, к сожалению, однозначного ответа нет — и это заводит нас в тупик. Апокалиптичный сценарий с бунтующими машинами Парфентьев отверг сразу. Но предупреждает о других опасностях — о поколении, разучившемся мыслить без подсказки — просто потому, что никто вовремя не научил его этого не делать. То есть деградации.
Главное — чтобы всё это не закончилось тем, что искусственный интеллект начнёт выдавать нам знания порционно, как автоматическая кормушка — коту. Швеция, кажется, уже сделала свой выбор. Вопрос в том, когда к тому же выводу придём мы.
