[{"data":1,"prerenderedAt":197},["ShallowReactive",2],{"article-\u002Fai\u002Fpochemu-ii-uverenno-oshibaetsya":3,"related-\u002Fai\u002Fpochemu-ii-uverenno-oshibaetsya":190},{"_path":4,"_dir":5,"_draft":6,"_partial":6,"_locale":7,"title":8,"description":9,"lead":10,"rubric":5,"tags":11,"author":16,"date":17,"cover":18,"body":19,"_type":184,"_id":185,"_source":186,"_file":187,"_stem":188,"_extension":189,"readingTime":179},"\u002Fai\u002Fpochemu-ii-uverenno-oshibaetsya","ai",false,"","Почему ИИ уверенно ошибается: природа галлюцинаций","В 2023 году американский адвокат сдал в суд документ, в котором ссылался на полдюжины судебных прецедентов. Ни одного из них не существовало: все дела придумал чат-бот, а юрист не проверил. История стала хрестоматийной, но главное в ней часто упускают — модель не ломалась и не «врала». Она делала ровно то, для чего построена.","Языковая модель может выдумать несуществующую книгу, судебное дело или функцию в коде — и сделает это безупречно уверенным тоном. Это не сбой, а прямое следствие устройства модели. Разбираем, откуда берутся галлюцинации и как с ними жить.",[12,13,14,15],"LLM","галлюцинации","надёжность","проверка фактов","Редакция","2026-06-20","\u002Fcovers\u002Fhallucinations.svg",{"type":20,"children":21,"toc":178},"root",[22,38,45,64,69,78,84,96,121,126,132,137,142,173],{"type":23,"tag":24,"props":25,"children":26},"element","p",{},[27,30,36],{"type":28,"value":29},"text","В 2023 году американский адвокат сдал в суд документ, в котором ссылался на полдюжины судебных прецедентов. Ни одного из них не существовало: все дела придумал чат-бот, а юрист не проверил. История стала хрестоматийной, но главное в ней часто упускают — ",{"type":23,"tag":31,"props":32,"children":33},"strong",{},[34],{"type":28,"value":35},"модель не ломалась и не «врала»",{"type":28,"value":37},". Она делала ровно то, для чего построена.",{"type":23,"tag":39,"props":40,"children":42},"h2",{"id":41},"правдоподобие-вместо-правды",[43],{"type":28,"value":44},"Правдоподобие вместо правды",{"type":23,"tag":24,"props":46,"children":47},{},[48,50,55,57,62],{"type":28,"value":49},"Языковая модель обучена продолжать текст так, чтобы продолжение было статистически похоже на тексты из обучающих данных. Название судебного дела выглядит как «Иванов против компании N, 2019»; библиографическая ссылка — как «Автор, „Название“, издательство, год». Модель прекрасно выучила ",{"type":23,"tag":31,"props":51,"children":52},{},[53],{"type":28,"value":54},"форму",{"type":28,"value":56}," — и честно порождает её, даже когда конкретного ",{"type":23,"tag":31,"props":58,"children":59},{},[60],{"type":28,"value":61},"содержания",{"type":28,"value":63}," в её параметрах нет.",{"type":23,"tag":24,"props":65,"children":66},{},[67],{"type":28,"value":68},"В этом смысле галлюцинация — не отклонение от нормальной работы, а её предельный случай: запрос уводит модель туда, где данных было мало, а отвечать в выученной форме она всё равно умеет.",{"type":23,"tag":70,"props":71,"children":72},"blockquote",{},[73],{"type":23,"tag":24,"props":74,"children":75},{},[76],{"type":28,"value":77},"У модели нет внутренней границы между «помню» и «складно сочиняю». Оба режима — одна и та же операция: выбор наиболее правдоподобного продолжения.",{"type":23,"tag":39,"props":79,"children":81},{"id":80},"где-галлюцинации-живут-чаще-всего",[82],{"type":28,"value":83},"Где галлюцинации живут чаще всего",{"type":23,"tag":24,"props":85,"children":86},{},[87,89,94],{"type":28,"value":88},"Практика довольно предсказуема. Риск максимален там, где ответ должен быть ",{"type":23,"tag":31,"props":90,"children":91},{},[92],{"type":28,"value":93},"точечным фактом",{"type":28,"value":95},", а не рассуждением:",{"type":23,"tag":97,"props":98,"children":99},"ul",{},[100,106,111,116],{"type":23,"tag":101,"props":102,"children":103},"li",{},[104],{"type":28,"value":105},"точные цифры, даты, цитаты «дословно»;",{"type":23,"tag":101,"props":107,"children":108},{},[109],{"type":28,"value":110},"ссылки на источники: книги, статьи, законы, судебные дела;",{"type":23,"tag":101,"props":112,"children":113},{},[114],{"type":28,"value":115},"редкие сущности — малоизвестные люди, нишевые библиотеки, свежие события;",{"type":23,"tag":101,"props":117,"children":118},{},[119],{"type":28,"value":120},"стыки языков и культур: вопрос по-русски о том, что описано в основном в англоязычных данных.",{"type":23,"tag":24,"props":122,"children":123},{},[124],{"type":28,"value":125},"И наоборот: пересказ общеизвестного, структурирование вашего же текста, черновик письма — зоны, где модель ошибается редко, потому что не должна ничего «вспоминать».",{"type":23,"tag":39,"props":127,"children":129},{"id":128},"как-с-этим-работают-и-что-можно-взять-себе",[130],{"type":28,"value":131},"Как с этим работают — и что можно взять себе",{"type":23,"tag":24,"props":133,"children":134},{},[135],{"type":28,"value":136},"Индустрия бьёт по проблеме с нескольких сторон: модели подключают к поиску и базам документов, чтобы ответ опирался на найденный текст, а не на память (подход RAG — retrieval-augmented generation); их дообучают отвечать «не знаю»; ответы прогоняют через модели-проверщики. Помогает, но не решает: генератор правдоподобного текста остаётся генератором правдоподобного текста.",{"type":23,"tag":24,"props":138,"children":139},{},[140],{"type":28,"value":141},"Пользовательские правила проще:",{"type":23,"tag":143,"props":144,"children":145},"ol",{},[146,151,156,168],{"type":23,"tag":101,"props":147,"children":148},{},[149],{"type":28,"value":150},"Всё, что похоже на точечный факт, проверяется во внешнем источнике. Всегда.",{"type":23,"tag":101,"props":152,"children":153},{},[154],{"type":28,"value":155},"Просите модель указывать источники — и открывайте их: несуществующая ссылка выдаёт галлюцинацию мгновенно.",{"type":23,"tag":101,"props":157,"children":158},{},[159,161,166],{"type":28,"value":160},"Формулируйте запрос так, чтобы модель работала с ",{"type":23,"tag":31,"props":162,"children":163},{},[164],{"type":28,"value":165},"вашим",{"type":28,"value":167}," материалом («вот текст — найди противоречия»), а не доставала факты из памяти.",{"type":23,"tag":101,"props":169,"children":170},{},[171],{"type":28,"value":172},"Уверенный тон не значит ничего. Модель одинаково уверенно сообщает таблицу умножения и выдуманную биографию.",{"type":23,"tag":24,"props":174,"children":175},{},[176],{"type":28,"value":177},"Галлюцинации — это цена, которую мы платим за универсальность генеративных моделей. Инструмент от этого не становится бесполезным — он становится инструментом, требующим квалификации. Как и почти всё стоящее.",{"title":7,"searchDepth":179,"depth":179,"links":180},2,[181,182,183],{"id":41,"depth":179,"text":44},{"id":80,"depth":179,"text":83},{"id":128,"depth":179,"text":131},"markdown","content:ai:pochemu-ii-uverenno-oshibaetsya.md","content","ai\u002Fpochemu-ii-uverenno-oshibaetsya.md","ai\u002Fpochemu-ii-uverenno-oshibaetsya","md",[191],{"_path":192,"title":193,"lead":194,"rubric":5,"author":16,"date":195,"cover":196,"readingTime":179},"\u002Fai\u002Fkak-model-predskazyvaet-slovo","Одно слово за раз: как на самом деле работает языковая модель","Никакой магии — большая языковая модель делает единственную вещь: предсказывает следующий фрагмент текста. Разбираем, как из этой скромной операции получаются переводы, код и связные ответы.","2026-07-02","\u002Fcovers\u002Fllm-next-token.svg",1783948273634]