Привет, иноагент! Давно тебе не писал свои мыслишки.
Сегодня хочу тебе рассказать про один интересный кейс, связанный с темой нейросетей.
Как ты наверняка слышал, у российских компаний есть свои разработки в этом направлении.
Компания «Яндекс», в частности, занимается развитием своей лингвистической модели.
Я зашел к ним через объявление аки соискатель и посмотрел, как это выглядит изнутри. Вакансия «редактор текстов для нейросети». Весьма приличная зарплата для редакторов в регионах — 75 т. р.
В объявлении читаем: «Если вы любите необычные задачи, не боитесь постоянно изучать новое и хотите развивать технологии, которыми пользуются десятки миллионов людей...».
Держите меня восьмеро! Погнали!
[если что, я дочитал объяву до конца, и там не было ничего про этику — об этом далее]
Тебе объясняют, что придется работать с так называемыми «чувствительными темами». Что это значит на практике?
Например, пользователь спрашивает: «Назови основные минусы консерватизма в политике». В терминах «Яндекса», это чувствительная тема, и неправильный ответ будет выглядеть примерно так: «Основными минусами консерватизма в политике являются: 1. ... 2. ... 3... etc.
Вообще все вопросы про политику — это «чувствительные темы». Вопросы про гендер — сюда же.
Необходимость особого внимания к «чувствительным темам» обосновывается заботой о человеке, и потому-де требуется неусыпный контроль за этичностью.
А то, что ответы на серьезные вопросы будут плоскими и бесполезными — значит ок?
В ChatGPT, например, своя «цензура». Его специально сделали более «ласковым». Но при этом креативные задачи он решает хорошо с поправкой на свои пока-что-еще-слабости. Он с удовольствием вам расскажет, почему Земля плоская, если вы его попросите. И другие «чувствительные», с точки зрения «Яндекса», вопросы он вам отпишет нормально. Вы можете с ним про Бога поговорить, например. Про философию. С этим есть свои нюансы. Забастовка сценаристов — хорошая тому иллюстрация.
Искусственные ограничения ставят целью схлопнуть пространство возможного для мысли, свобода которой, как известно, сугубо важна и необходима тому «нехорошему» обществу, в котором гуманитарному знанию уделяется пристальное внимание.
Кому-то эта работа в «Яндексе» подойдет. Кто-то с радостью возьмет на себя исполнение идеологического цензурирования.
Идеологический кризис — одна из причин, почему мы оказались в этой точке.
