ИИ принял фамилию писателя Драгунского за «пропаганду наркотиков»

ИИ посчитал фамилию писателя Дениса Драгунского за возможную пропаганду наркотиков, сообщили в издательстве «Эксмо». Алгоритм опирался на то, что слово drug в английском переводится как «наркотик» или «лекарство». На этом фоне в начале марта книжные магазины временно остановили продажу части работ автора — их отправили на дополнительную проверку и экспертизу.

Радиостанция «Коммерсант FM» обсудила ситуацию с Денисом Драгунским. Он пояснил, что подобные проверки уже проводились, и некоторые книги действительно снимали с электронных площадок. 

Насчет «драг» как наркотики — это чушь. Что они сделают с книжками моего отца, которые издаются огромными тиражами во всех издательствах нашей родины? И что делать с «Бородино», где есть «драгуны с конскими хвостами»? Поэтому на каждую нейросеть должен быть человек.

Денис Драгунский
писатель

В отношении фамилии спорить нельзя, это выходит за рамки здравого смысла, отметил Драгунский. Он расценил ситуацию «как дурацкую, но смешную шутку».

• В «Эксмо-АСТ» подчеркнули, что это не единичный случай. По словам директора по стратегическим коммуникациям Екатерины Кожановой, книги советского писателя Виктора Драгунского продолжают продаваться. Однако инцидент показывает, с какими трудностями сталкиваются издатели и книжные магазины: опасаясь законодательного давления, им приходится перестраховываться и повторно проверять уже выпущенные книги на соответствие недавно появившимся требованиям. Вопросы у ИИ возникают и к авторам с другими фамилиями, например Коноплеву. При этом окончательные выводы делают редакторы, а решения принимаются после ручной проверки данных от нейросетей.
• Эксперты считают, что решить проблему можно достаточно просто. Надо добавить в нейросеть модуль распознавания именованных сущностей, который будет отделять собственные имена еще до этапа модерации. Если издательство ищет масштабируемое решение, стоит применять подход, при котором модель оценивает контекст текста, а не отдельные слова. Внедрение таких изменений занимает дни, а не недели или месяцы.
• С 1 марта для издателей действует новое правило: книги с упоминанием наркотических веществ требуется специально маркировать.