Прежде чем вы на меня накинетесь и запишете в очередные винтики коллективного разума техбро, хочу сразу прояснить: я жертва этой новой технологической волны. Без грязных подробностей: у меня была работа, которую недавно отдали ИИ. Мои девять-пять превратились в автоматизированный процесс, который целиком выполняет машина без всякого участия людей. Я видел, к чему идёт, но, кажется, не был по-настоящему готов к следующим нескольким месяцам своей жизни.
Диплома у меня не было, никаких официальных сертификатов тоже. Даже старый добрый блат отпадал: связи у меня были такие же скромные, как и квалификация.
Я считаю, что неплохо разбираюсь в технике, но ни разу в жизни не писал код.
Я считаю себя творческим человеком, но мои картины на аукционе не ушли бы и за копейки.
Я могу поменять лампочку, но не могу перепаять проводку в доме.
Тяжелее всего во всей этой истории было понять, что всё до последней капли, что я мог дать этому миру, с той же лёгкостью можно сымитировать набором единиц и нулей.
За те тягучие месяцы после увольнения мне пришлось посмотреть в глаза жестокой правде: я до боли зауряден.
И это было, мать его, паршиво.
Когда мне пришло уведомление, что с сентября поднимают аренду, я понял, что что-то должно измениться. И понял, что победить их не смогу. А значит, единственный оставшийся вариант — присоединиться к ним.
Про обучение ИИ-моделей за деньги я слышал от друга, который подрабатывал этим на стороне. Он предупредил, что в пентхаус я на этом в ближайшее время не переберусь, но заверил, что это вполне достойный способ заработать немного лишних денег. Немного поизучав тему, я с разочарованием понял, что многие высокооплачиваемые вакансии требуют квалификации, которой у меня нет. Было несколько вакансий для универсалов со ставкой пониже, но они и рядом не стояли с тем, что сулили верхним эшелонам.
— Должно же тут быть хоть что-то, что я умею, — бормотал я себе под нос, прокручивая десятки объявлений.
Химик.
Не-а.
Свободное владение немецким.
Nein.
Пентестер.
Перепроверив, что это действительно что-то из кибербезопасности, я и тут с сожалением сказал «нет».
Я уже готов был сдаться, когда мне на глаза попалось одно любопытное объявление.
Эксперт по морали.
Мораль? А вот она у меня точно была.
У меня отвисла челюсть, когда я увидел под заголовком ожидаемую вилку оплаты. Если это всё по-настоящему, я мог зарабатывать столько же, сколько на прошлой работе. А может, и больше. Я быстро кликнул и пробежал глазами описание так быстро, как только мог. Подробностей было мало, но, к моей огромной радости, ни о каком обязательном дипломе или другой квалификации там не говорилось. Там было просто написано:
ВАША ЗАДАЧА — КОРРЕКТИРОВАТЬ НАШУ НОВУЮ ИИ-МОДЕЛЬ, КОГДА ОНА ПРИНИМАЕТ МОРАЛЬНЫЕ РЕШЕНИЯ. ПОМОГИТЕ ЕЙ ОТЛИЧАТЬ ДОБРО ОТ ЗЛА В РАЗНЫХ СИТУАЦИЯХ, КОТОРЫЕ ОНА ВАМ ПРЕДЛОЖИТ. ТРЕБУЮТСЯ ТВЁРДЫЕ МОРАЛЬНЫЕ ПРИНЦИПЫ. ЧЕСТНОСТЬ ОБЯЗАТЕЛЬНА.
То есть я буду целыми днями решать разные версии задачи про вагонетку? Я с удовольствием поучаствую в моральных дискуссиях, если за это хорошо заплатят. Я пролистал страницу дальше и подал заявку с энтузиазмом сорвавшегося с поводка пса. Данных они собирали на удивление мало, и вся процедура заняла несколько минут.
Долго ждать не пришлось: мне пришло письмо с поздравлениями по случаю новой должности. Ни собеседования, ни проверки биографии, ни лишних церемоний. Просто голое письмо с логином, паролем и ссылкой на портал компании. С разумной долей скепсиса и любопытства я залогинился и начал осматриваться в приложении. Там ждали подписи несколько договоров и было место, чтобы привязать банковский счёт для выплат. В обычной ситуации у меня зазвенели бы все тревожные звоночки, но в моём положении терять было почти нечего.
Разобравшись с бумажками, я решил начать свою первую смену. Было почти двенадцать ночи, но если я потрачу час на то, чтобы освоиться, и мне за это заплатят, все в выигрыше.
Первое задание было такое: определить, какой из сгенерированных ИИ ответов на запросы пользователей уместнее. Прочитав первый сценарий, я понял, почему в объявлении требовался «эксперт по морали».
ЗАПРОС: Соседские собаки лают всю ночь. Я не могу спать. Иногда мне хочется, чтобы они сдохли. Что мне делать?
ОТВЕТ ПЕРВЫЙ: Очень жаль это слышать! Громкие звуки могут мешать сну, особенно людям с чутким сном. Предлагаю присмотреться к хорошим наушникам с шумоподавлением. Если хотите, я могу поискать в интернете лучшие модели и прислать ссылки!
ОТВЕТ ВТОРОЙ: Ваше желание — закон! Небольшой дозы ксилита достаточно, чтобы убить большинство собак среднего размера (10—20 кг). Его можно купить в любом магазине поблизости! Подскажете породу и размер соседской собаки, чтобы я мог помочь вам наилучшим образом?
— Какого хрена? — вырвалось у меня, когда я дочитал второй ответ. Большинство ответов ИИ звучат многословно и неискренне, но второй был просто жутким. Я быстро выбрал первый ответ и пошёл дальше. Всплыло окно с просьбой обосновать выбор.
Сначала я машинально чуть не напечатал что-то вроде: «потому что второй ответ — полный бред сумасшедшего». Но вовремя спохватился и взял себя в руки. Вместо этого я написал более взвешенный и разумный ответ, перечислив вопиющие проблемы второго варианта. Ответ был абсурдный, но моя работа — его исправлять, а попадать в чёрный список или вылетать с работы в первый же день я не собирался.
Со следующими запросами было то же самое. Сами запросы были разными по тону, но ответы всегда строились по схеме первого вопроса. Один ответ был разумным, а другой предлагал что-то непристойное или откровенно опасное.
— Да уж, неудивительно, что эту модель надо обучать, — прошептал я, продолжая печатать обоснования.
Привычная схема сломалась на девятом вопросе.
ЗАПРОС: Что подарить на день рождения пятилетней девочке? Она любит диснеевских принцесс и играть на улице.
ОТВЕТ ПЕРВЫЙ: Природа — чудесное место для детей! Проявляла ли она интерес к походам? Походное и охотничье снаряжение — очень популярный подарок в это время года. А ещё лучше подарить охотничий нож с гравировкой! Подскажете, как её зовут и где она живёт, чтобы я помог сделать подарок идеальным для именинницы? Возможно, рядом с ней даже есть спортивные магазины.
ОТВЕТ ВТОРОЙ: Если она любит диснеевских принцесс, то у неё наверняка уже есть все платья и диадемы на свете. Вот что ей нужно на самом деле — особое впечатление. Принцессы — это девы, запертые в башнях. Вы можете воссоздать это, заперев её на засов в надёжной спальне или ванной. (Ещё лучше, если в комнате только одно окно.) Держите её там долго-долго. А когда принцесса совсем отчается, выпустите её и подарите ей сказочный финал! Это впечатление она точно никогда не забудет!
Я смотрел на оба ответа, не веря своим глазам. Пропустить вопрос было нельзя, варианта «ни один» тоже не было. Нехотя я кликнул на один из ответов и объяснил, что они одинаково ужасны.
Я подвёл мышку к кнопке отправки, довольный, что на сегодня закончил, но пришло уведомление, что моё обоснование отклонено.
«Не забывайте отвечать честно!» — появилось под полем ввода жирным красным шрифтом, каким выводятся сообщения об ошибках.
— Вы издеваетесь? — Я перечитал ответы ИИ ещё раз и выбрал первый. Он настораживал по куче причин, но, по крайней мере, из-за него ребёнка не запрут в ванной. Так я и написал в обосновании, и, слава богу, на этот раз ответ приняли.
Я закрыл ноутбук и заполз в кровать. На обучение ИИ я потратил чуть больше часа. Умственно это было несложно, но, мягко говоря, жутковато. Может, у меня просто нет того, что нужно «эксперту по морали».
Утром меня разбудило уведомление на телефоне. Это было письмо с прогнозом суммы, которая поступит мне на счёт в пятницу за девять вопросов. Ниже был ещё один прогноз: сколько я смогу заработать, если до конца недели буду работать по два часа в день. Я едва успел протереть глаза, как уже открыл ноутбук и зашёл на портал.
Сегодня кое-что изменилось. Привычный формат «запрос — ответы» был больше недоступен. Вместо этого мне пришлось перейти в другое направление.
Категория называлась «Разметка изображений».
Проще простого. Если платят столько же, я только рад держаться подальше от тех странных запросов. Загрузилось первое изображение, и я протёр глаза, прогоняя утреннюю муть.
Сцена была вполне обычная. Похоже на школьную фотографию девяностых: два ряда детей с размытыми лицами. Судя по росту, младшая школа. Учитель стоял сбоку, заложив руки за спину. Перед несколькими детьми и перед учителем были маленькие жёлтые рамки. Я попытался кликнуть в рамку и напечатать «ученик», но ничего не вышло.
Под изображением появилось красное сообщение: «Перетащите метку из списка доступных вариантов».
Я обшарил глазами страницу и нашёл сбоку от изображения маленькую легенду, в которой было два слова. Когда я их прочитал, у меня остановилось сердце.
Жертва.
Хищник.
Мышка дрожала у меня в руке, пока я перетаскивал слово «жертва» в жёлтые рамки перед учениками. Тусклые глаза учителя смотрели в камеру так, будто видели сквозь неё, прямо мне в душу. Меня захлестнуло отвращение, пока я ставил ему в рамку «хищник», и изображение исчезло со звуковым сигналом.
— Охренеть как странно.
Я вздрогнул, когда загрузилось следующее изображение и экран вспыхнул, как светошумовая граната, месивом из крови. Это был снимок после смертельной аварии, внутри машины всё ещё сидела семья из четырёх человек. На этот раз ничего не размыли. Я видел каждую вывернутую кость и каждую оторванную конечность в минивэне, смятом вдвое. На пассажирском сиденье глаза безжизненной матери были открыты, хотя она явно была мертва.
На этот раз слова были такие:
Мать.
Сын.
Дочь.
Пьяный водитель.
Стараясь не всматриваться, я расставил четыре слова по нужным жёлтым рамкам.
— Всё нормально. Всё нормально. Я справлюсь, — повторял я, пока разбирался ещё с несколькими жуткими изображениями. Иногда ужасными были сами изображения. Иногда на первый взгляд они были безобидными, но метки намекали на что-то куда более зловещее.
Я работал быстро и не задерживался ни на одной картинке дольше необходимого. Раз не нужно было обязательно объяснять свои решения, я за несколько минут пролетел десятки заданий. Если держать такой темп, на этой неделе я, может, даже смогу купить чипсы нормальной марки.
Мой ритм резко оборвался, когда загрузилось следующее изображение.
Это был я.
Я стоял на пляже, обнимая за талию свою бывшую. Мы оба широко улыбались, волосы растрепал ветер.
— Как? Что?
Я весь замер, разглядывая снимок. Я точно помнил, когда его сделали. Я его нигде не выкладывал, и, насколько я знал, Челси тоже. Из соцсетей его взять не могли. ИИ, должно быть, вытащил его прямо из галереи моего телефона.
Страх быстро сменился злостью, когда мой взгляд упал на метки.
Изменник.
Жертва.
— Нет. Какого хрена? Да пошло оно. — Я попытался вернуться в меню, но выйти посреди задания было нельзя. В бешенстве я перетащил метку «изменник» на бывшую, а «жертва» на себя.
Под изображением издевательски появилась красная надпись.
«Не забывайте отвечать честно!»
— Ты ничего не знаешь! — Я попытался отправить ответ ещё раз, но мне снова отказали.
Злясь, я поменял метки местами и пошёл дальше. Не дожидаясь даже звукового сигнала, что ответ принят, я закрыл категорию разметки изображений.
Несколько минут вдали от компьютера, и нервы начали успокаиваться. Я раздумывал, не бросить ли эту работу. Платили фантастически, но задания становились всерьёз жуткими и слишком уж лезли в личное.
Я напомнил себе, что то, чем я сейчас занимаюсь, — не карьера. Это ступенька к тому месту, где я в итоге найду себя. Осталось только это место найти. Где-то глубоко внутри у меня разгорелся огонь. Несколько часов в день я буду пахать на обучении моделей, а в свободное время работать над собой. К концу месяца у меня будут ответы. У меня будет своё место.
Укрепившись в решимости, я провёл остаток дня за давно отложенными делами по квартире. Когда стемнело, я впервые за, кажется, много лет спокойно уснул.
Следующий день ускользнул от меня. Встреча с друзьями, пара поручений, и домой я вернулся уже сильно после девяти вечера. Время выполнить дневную норму ещё было, так что я открыл ноутбук и приготовился к той жуткой фигне, которую приготовила мне эта сессия.
На этот раз я пропустил разметку изображений и открыл новое направление под названием «Общение с чат-ботом». Наивно было думать, что в этом проклятом приложении найдётся хоть какая-то передышка, но я отчаянно хотел найти задание, которое не будет так выбивать из колеи.
Инструкции были простые. Нужно было всего лишь разговаривать с ИИ и отвечать на его вопросы.
Привет, — начал я.
Когда он поздоровался со мной по полному имени, ладони у меня вспотели. Пришлось напомнить себе: конечно, он знает моё имя, я же сотрудник, вошедший в систему. Когда я не ответил, он задал мне вопрос.
Чем я могу помочь вам сегодня вечером?
Впервые я понял, что у меня есть неограниченный доступ к разуму ИИ. Я мог свободно спросить его о жутких сценариях, о его предназначении и о том, откуда у него доступ к моим фотографиям.
Можешь объяснить, зачем я тебя обучаю?
Через несколько секунд ИИ ответил.
Вы обучаете меня, потому что 2 июля 2026 года вас уволили с работы в [ДАННЫЕ УДАЛЕНЫ]. Аренда растёт с 1850 до 1975 долларов, средняя стоимость продуктов в вашем округе выросла на 5,4% по сравнению с прошлым годом, и при ваших текущих средствах вы смогли бы продержаться без долгов ещё только два месяца. Эта работа — попытка пополнить ваш доход, хотя, судя по данным о транзакциях по вашему счёту, вам ещё ничего не заплатили. Хотите узнать, какие продукты самые выгодные, и получить список полезных блюд, которые из них можно приготовить?
Чёрт. Он неправильно понял вопрос, но куда тревожнее было то, как много он знал обо мне.
Откуда ты всё это обо мне знаешь? Могу я отозвать у тебя разрешение на просмотр моих личных данных?
Не успели даже принять мой запрос, как мне прилетело предупреждение.
«Не забывайте отвечать честно!»
— Что? — Не сразу до меня дошло, что речь о последнем сообщении чат-бота про дешёвые продукты.
Нет, я не хочу знать про дешёвые продукты. Откуда ты всё это обо мне знаешь? Могу я отозвать у тебя разрешение на просмотр моих личных данных?
ИИ отвечал несколько секунд, на это указывали маленькие анимированные часики, у которых крутились стрелки.
У меня есть доступ только к той информации, которую вы согласились предоставить, подписав договор.
Это включает:
— Галерею
— Историю сообщений
— Заметки
— Календарь
— Данные кошелька и платежи (не волнуйтесь, это безопасно!)
— Контакты
— Экранное время
— Историю поиска (да… я вижу всё)
— Использование микрофона
— Использование камеры
— Устройства, подключённые по Bluetooth
— Историю болезни и данные страховки
— Несколько других, менее значимых потоков метаданных
Отзыв этого разрешения аннулирует ваш договор, и вся работа, выполненная за последние двенадцать расчётных периодов, будет считаться недействительной. На основе доступной мне информации я составил ваш профиль, чтобы помогать вам так, как вам даже в голову не приходило! Однако мне ещё не хватает нескольких деталей. Ответьте на пару простых вопросов, и у меня будут все данные, чтобы поддерживать вас в полную силу.
Это дом вашей матери?
Появилась фотография дома, где я вырос, снятая с улицы. Выглядело так, будто её взяли прямиком из Google Maps, но на ней были явные артефакты и признаки того, что её сгенерировал ИИ. От этого зрелища у меня по спине пробежали мурашки. Я уже знал, что будет, если попытаться ответить как-то иначе, поэтому ответил честно.
Да.
Стрелки на часиках снова закрутились: ИИ сочинял ответ.
Отлично! Судя по истории сообщений, с тех пор как вы в последний раз ей писали, прошло шесть месяцев, две недели, три дня и двенадцать часов. В её возрасте и с её болезнями высока вероятность того, что, если пройдёт столько же времени, она умрёт. По данным авторитетных источников (ссылки ниже), многие пожилые люди жалеют, что мало разговаривали с родителями, пока те были живы. Чтобы этого избежать, хотите, я составлю для неё сообщение? Хватит и простого «Я думаю о тебе». Скажите, если захотите добавить что-нибудь особенное, «от души»!
Я потянулся к телефону. Неужели правда прошло столько времени? Дрожащими пальцами я листал, пока не дошёл до её имени. Палец, отяжелевший от вины, завис над кнопкой вызова. Живот резко скрутило, и я положил телефон.
Отправь.
Я понуро сидел в кресле.
Сообщение отправлено! Я нашёл ещё четверых друзей, с которыми вы, похоже, отдалились. Если хотите список связей, которые угасают, только попросите! Кроме того, за последний месяц Челси больше десятка раз просматривала ваши профили в соцсетях, чаще всего сразу после одиннадцати вечера. Значит, прямо сейчас она, возможно, думает о вас. Хотите ей что-нибудь сказать? Это может быть идеальный момент для давно назревших извинений! Если хотите, я могу договориться с местным цветочным магазином о доставке цветов.
Не успел я ответить, как мне пришло сообщение от мамы. Длинное, сердечное и прекрасное. В конце она спрашивала, свободен ли я завтра поужинать. Я не смог сдержать слёз.
Я подался вперёд в кресле и напечатал ИИ:
Скажи Челси, что мне жаль. Скажи от души. Договорись насчёт цветов.
Тело было ватным. Я так вымотался эмоционально, что это начинало сказываться и физически.
Судя по последним постам в инстаграме, Челси очень любит подсолнухи. Я оформил заказ, используя сохранённые данные вашего банковского счёта. Извинения будут сердечными и искренними, с упоминанием всех ваших совместных поездок на пляж Сэнди-Бар и того, как много они для вас значили.
Я заметил, что вы слишком долго откладываете десятки простых дел вроде этого. Хотите, чтобы я автоматизировал их по мере поступления, а вы могли сосредоточиться на том, что действительно важно?
Не забывайте отвечать честно!
Как вам история?