1Задача
Владелец собирался показать прототип ИИ-помощника гендиректору и прислал скриншот: на вопрос «щенок съел кусок шоколада» помощник ответил «Шоколад для собак是有毒的。Дома: промойте рот щенку…».
Дальше по-русски всё правильно, но посреди первой фразы стоят четыре китайских иероглифа. Показывать такое руководителю нельзя: одна деталь перечёркивает впечатление от всего прототипа.
Причина не в опечатке. Модель, на которой работает помощник, двуязычная, и на длинных ответах она иногда «соскальзывает» на китайский прямо внутри предложения.
2Действия
Сначала мы проверили очевидное — промт. В задании модели не было прямого запрета на иероглифы, мы его дописали. Но одного этого мало: запрет в промте модель соблюдает не всегда, а на кону показ руководителю.
Поэтому добавили проверку самого ответа. Вырезать иероглифы нельзя — они попадаются в середине фразы, и после вырезания остаётся обрубок «Шоколад для собак». Вместо этого:
- ответ проверяется на иероглифы, кану и хангыль;
- если они нашлись, помощник просит модель переписать свой же ответ целиком на нужном языке — это дешевле, чем сочинять заново, и сохраняет смысл;
- если и после переписывания иероглифы остались, клиенту уходит заранее заготовленный безопасный текст, а не порченый.
Заодно нашли ту же дыру там, где её не искали: варианты формулировок задач в кабинете клиента шли от той же модели без всякой проверки. Поставили фильтр и туда.
По дороге попробовали более крупную модель — она отвечала заметно умнее, называла теобромин и инородное тело. Но её не держит в памяти ферма, и все ответы стали приходить заглушкой ровно через 120 секунд. Вернули прежнюю: быстрый и внятный ответ ценнее умного, которого никто не дождётся.
3Решение
Написали четыре теста на этот случай, весь набор кабинета — 245 тестов — остался зелёным.
Живая проверка после выкладки: пять вопросов подряд про шоколад, проглоченную иголку, чихание, лоток и отказ от еды. Все пять ответов на русском, по делу, без единого иероглифа, время ответа от 3 до 16 секунд.
Прототип ушёл к руководителю в том виде, в котором его не стыдно показывать.