Нейросети ошибаются, поддаются манипуляциям и умеют звучать убедительно, даже когда неправы. Если вы строите на них реальные процессы или продукты — этот раздел обязателен.
Разберём основные риски: промпт-инъекции и вредоносные запросы, галлюцинации и достоверность фактов, предвзятость и социальные стереотипы в ответах. Для каждого риска — способы его снизить: правильная постановка запросов, калибровка и инструменты модерации.