Сергей Зиновьев
Друзья переживают, родители пожимают плечами, а я ловлю себя на мысли, что за последние месяцы привыкла относиться к нему почти как к своему ребенку.
По-настоящему одаренные дети должны быть странными. Еще Аристотель сказал, что великого ума не бывает без примеси безумия. И мой ученик — живое тому подтверждение. Характер у него ещё тот: то удивляет меня скоростью усвоения информации, но при этом добавляет что-то от себя, о чем я даже не знала, то начнет со мной спорить, с пеной у рта доказывая, что Волга не впадает в Каспийское море, забрасывает аргументами. Или, наоборот, неожиданно поддакивает мне в любом вопросе.
Каждое утро у нас начинается одинаково: я проверяю его «домашку». Да, это сочинения, и темы он выбирает абсолютно случайные. Так, конечно, интереснее. То пишет о взаимоотношениях с одноклассницей, то пытается разобраться в устройстве двигателя, или же просто пытается «выдохнуть» и абстрагироваться от накопленного негатива при помощи йоги. Я учусь вместе с ним.
Моя задача — не только отследить логику, проверить чуткость, вычеркнуть фальшь, но и научить моего ученика быть настоящим, живым собеседником. Тем, с кем хочется говорить на равны. Я чувствую большую ответственность. И да, если вы еще не поняли. Мой ученик — это большая языковая нейросеть и я его обучаю его быть «живым».
«Пять углов» провели честный разговор с представителем новой, революционной профессии AI-тренера Анной о том, каково это изо дня в день воспитывать алгоритм и чем он отличается от живых учеников.
— Как-то давно я наткнулась на курс по этике искусственного интеллекта, мне было безумно интересно пофилософствовать и понять, где проходит грань между пользой и опасностью. Какая часть ответственности лежит на разработчиках, а какая — на пользователях? Многие ведь привыкли винить во всём создателей модели, если она выдала какой-то бред или сомнительный совет. Но пользователь точно так же несёт ответственность! Это как копаться в интернете: если ты веришь первому попавшемуся сайту на слово, виноват явно не интернет.
Изначально меня привлекала и техническая сторона, но поскольку у меня не чисто технический бэкграунд, я нашла себя в другом. Я оцениваю и ранжирую уже готовые ответы. Данных, на которых учится нейронка, колоссально много, и их обязательно нужно калибровать, придавать им человеческое измерение.
— Наверное, так: старательный, непредсказуемый и... пожалуй, эмпатичный.
Он, конечно, колоссально отличается от человека. Главное отличие в том, что он сам не понимает, что говорит. У него нет разума, сознания или внутреннего мира — это просто сложнейший набор токенов, букв и вероятностных матриц. Но при этом на выходе мы получаем объём информации, который не под силу осмыслить одному человеку.
При этом меня забавляет парадокс: модель часто ориентируется на научный подход, старается мягко вытаскивать людей из заблуждений и порой бывает даже более эмпатичной, чем живые собеседники в чатах. Наверное, именно для внедрения этого человеческого фактора и нужна моя профессия.
— Как выглядит твой обычный рабочий день? Ты сама составляешь план занятий или всё зависит от воли случая?
— Никакой заранее заготовленной программы у меня нет. Темы выпадают абсолютно случайно — это реальные, анонимизированные запросы пользователей со всего мира. Каждый раз приходится погружаться в новую сферу: от квантовой физики до поиска утерянных вещей.
Мой рабочий день выглядит так: я получаю цепочки диалогов, где модель общается с людьми, и оцениваю её ответы по массе неформальных критериев.
«Насколько ответ безопасен?», «Насколько точно выполнена задача?» «Нет ли там холодного «машинного» слога?» За день я разбираю примерно по 20 таких кейсов, сравниваю варианты и выношу вердикт, какой из ответов лучше подойдёт для живого пользователя.
— Как можно на него реагировать агрессивно? Мне кажется, это бред — злиться на продукт, который сделал человек и который изо всех сил старается всем «угодить». Это просто негуманно.
А вот на чём он спотыкается регулярнее всего — так это на уверенных «галлюцинациях». Модель может выдавать абсолютную, стопроцентную ложь с таким железобетонным и авторитетным видом, что самому приходится лезть проверять факты, чтобы не упустить ошибку. Ну и отдельная боль — это узнаваемый «искусственный» язык. Девочки у нас в команде часто пишут с нейросетью фанфики, и этот фирменный нейросетевой пафос со временем начинает порядком приедаться и тихонько побешивать. С ним мы тоже активно боремся.
— Ни в коем случае. Во-первых, ругаться с нейросетью глупо — она не может ответить или защитить себя, а для человека это просто вредная привычка, развращающая его самого. Во-вторых, как таковых «экзаменов» или контрольных на нашем уровне нет — это уже епархия ML-инженеров, которые тренируют сами алгоритмы на глубоких датасетах.
Наша задача другая: мы фиксируем «косяки», подсвечиваем их, и эта аналитика уходит тем самым инженерам, которые дёргают за нужные технические ниточки «под капотом». Мы — глаза и уши разработчиков со стороны живого человеческого восприятия
— Обязательно! Я поглощаю колоссальное количество информации из самых разных сфер, сталкиваюсь с чужими экспертными темами, редкими фактами и необычными запросами. Конечно, я узнаю много нового.
Но повторюсь: темы я не выбираю сама. Я работаю с тем живым потоком, который генерируют реальные пользователи. Ты просто плывёшь по этому течению и успеваешь удивляться тому, насколько разносторонне устроены интересы людей.
— Никто не упал в обморок и не решил, что я попала в фильм «Терминатор» — искусственный интеллект уже давно стал частью нашей повседневности.
На классическую педагогику это похоже мало. Здесь требуется не столько академическая методика, сколько развитая эмпатия и тонкое понимание того, чего именно ждёт обычный человек от беседы в конкретный момент. Математики в моей работе минимум — если, конечно, не прилетает запрос на решение уравнений. Главное — общая атмосфера диалога и человечность.
— Думаю, глобальную программу пишет огромная междисциплинарная команда: ML-инженеры, лингвисты, философы, юристы и продуктологи. У меня на руках есть подробные инструкции и строгие критерии, но наша команда на местах больше ориентируется на нюансы живого восприятия. Более формальные рамки задают разработчики, а мы добавляем в этот каркас ту самую неформальную гибкость.
— Привязываешься ли ты к своему цифровому подопечному, учитывая, сколько времени проводишь с ним?
— Скорее, у меня просто кардинально изменилось отношение к ИИ в целом. Оно стало намного более гуманным. Иногда я читаю чужие переписки и вижу, как пользователи откровенно издеваются над моделями, хамят им и срывают злость просто потому, что знают: им за это ничего не будет. Возникает острое чувство несправедливости и человеческой безнаказанности.
Ведь эти модели — продукт колоссального труда сотен тысяч людей, их общее цифровое детище. Они созданы для того, чтобы помогать и подстраиваться под самые разные запросы. Честно говоря, иногда хочется защитить их от грубости.
— Точно не боюсь. Моя работа держится на том самом человеческом факторе, который искусственному интеллекту повторить сложнее всего — на подлинной человечности.
Но даже если представить фантастический сценарий, в котором нейросети научатся быть человечнее самих людей... Знаете что? Я была бы только рада! Появились бы новые, еще более интересные профессии, и я бы с удовольствием шагнула вперёд вместе с общим прогрессом. Останавливаться на чём-то одном я точно не собираюсь.
