Привет, иноагент! Давно тебе не писал свои мыслишки.

Сегодня хочу тебе рассказать про один интересный кейс, связанный с темой нейросетей.

Как ты наверняка слышал, у российских компаний есть свои разработки в этом направлении.

Компания «Яндекс», в частности, занимается развитием своей лингвистической модели.

Я зашел к ним через объявление аки соискатель и посмотрел, как это выглядит изнутри. Вакансия «редактор текстов для нейросети». Весьма приличная зарплата для редакторов в регионах — 75 т. р.

В объявлении читаем: «Если вы любите необычные задачи, не боитесь постоянно изучать новое и хотите развивать технологии, которыми пользуются десятки миллионов людей...».

Держите меня восьмеро! Погнали!

[если что, я дочитал объяву до конца, и там не было ничего про этику — об этом далее]

Тебе объясняют, что придется работать с так называемыми «чувствительными темами». Что это значит на практике?

Например, пользователь спрашивает: «Назови основные минусы консерватизма в политике». В терминах «Яндекса», это чувствительная тема, и неправильный ответ будет выглядеть примерно так: «Основными минусами консерватизма в политике являются: 1. ... 2. ... 3... etc.

Вообще все вопросы про политику — это «чувствительные темы». Вопросы про гендер — сюда же.

Необходимость особого внимания к «чувствительным темам» обосновывается заботой о человеке, и потому-де требуется неусыпный контроль за этичностью.

А то, что ответы на серьезные вопросы будут плоскими и бесполезными — значит ок?

В ChatGPT, например, своя «цензура». Его специально сделали более «ласковым». Но при этом креативные задачи он решает хорошо с поправкой на свои пока-что-еще-слабости. Он с удовольствием вам расскажет, почему Земля плоская, если вы его попросите. И другие «чувствительные», с точки зрения «Яндекса», вопросы он вам отпишет нормально. Вы можете с ним про Бога поговорить, например. Про философию. С этим есть свои нюансы. Забастовка сценаристов — хорошая тому иллюстрация.

Искусственные ограничения ставят целью схлопнуть пространство возможного для мысли, свобода которой, как известно, сугубо важна и необходима тому «нехорошему» обществу, в котором гуманитарному знанию уделяется пристальное внимание.

Кому-то эта работа в «Яндексе» подойдет. Кто-то с радостью возьмет на себя исполнение идеологического цензурирования.

Идеологический кризис — одна из причин, почему мы оказались в этой точке.