Почему нейросеть выдумывает цифры и как это починить

Нейросеть выдумывает цифры, потому что внутри она не калькулятор, а машина, которая угадывает следующее слово по тому, как обычно пишут люди. Когда вы просите её посчитать, она не считает по-настоящему, а подбирает правдоподобный на вид ответ. Поэтому в тексте получается «около 30%», «примерно 94 тысячи», и звучит уверенно, а на деле это догадка. Чинится это не уговорами «считай точнее», а тем, что саму арифметику вы забираете у языковой модели и отдаёте обычной программе: таблице, калькулятору, отдельному инструменту, который умеет складывать честно. Ниже разберу на пальцах, почему так устроено, покажу на трёх живых случаях из моей практики и практики участников клуба, что бывает, когда ИИ оставляют считать самого, и дам понятную схему, как заставить его выдавать цифры, которым можно верить. Программистом для этого быть не нужно.

Почему нейросеть в принципе не умеет считать

Давайте сразу разберёмся с главным, иначе всё остальное не уложится. Когда вы открываете ChatGPT, Claude или Gemini, у вас в голове картинка «умная программа, которая всё знает и всё может». А внутри там другое. Языковая модель обучена на огромных текстах и научилась предсказывать, какое слово идёт следующим. Вот вся её суперсила в одном предложении: она очень хорошо угадывает продолжение фразы.

Заметьте, в этой механике нигде нет арифметики. Модель не складывает 7000 и 7000, как это делает калькулятор. Она смотрит, какой ответ выглядел бы похожим на правду в текстах, на которых её учили, и выдаёт его. Чаще всего на простых примерах это совпадает с верным ответом, потому что «дважды два четыре» встречается в текстах миллион раз. А вот на ваших конкретных числах, которых в обучающих текстах никогда не было, она начинает фантазировать.

У этого явления даже есть название, по-умному это зовут галлюцинацией (когда ИИ уверенно выдаёт выдуманное за факт). Звучит красиво, а на практике это значит вот что: модель никогда не скажет «я не знаю» там, где честнее было бы промолчать. Она всегда что-то напишет. И напишет складно. Именно складность и подводит, потому что выдуманная цифра выглядит ровно так же убедительно, как настоящая.

Почему выдуманная цифра опаснее очевидной ошибки

Если бы ИИ ошибался заметно, грубо, мы бы все быстро перестали ему верить и проблема решилась бы сама. Беда в обратном. Он ошибается красиво.

Представьте, вы спрашиваете «сколько накопится за год при таких вложениях», и получаете ответ с точностью до рубля: «94 196 рублей». Цифра не круглая, выглядит как результат настоящего расчёта, к ней доверие включается автоматически. А под капотом модель могла просто подобрать правдоподобно выглядящее число. И вот вы уже строите на нём планы.

Самое коварное тут в том, что проверить на глаз почти невозможно. Грубую ошибку видно сразу, а аккуратную выдумку среди правильных цифр не отличишь, пока не пересчитаешь руками. И получается парадокс: чем умнее и увереннее звучит ответ, тем легче на нём обжечься. Поэтому в цифрах нельзя ориентироваться на то, насколько уверенно ИИ говорит. Уверенно он говорит всегда.

Кейс: проверять за ИИ дольше, чем считать самой

Покажу, к чему это приводит на живом примере. Одна участница моего клуба занималась анализом данных, постоянно гоняла таблицы через ИИ и в какой-то момент поймала себя на неприятном. Она стала тратить на проверку за нейросетью больше времени, чем заняла бы сама работа.

Логика была понятная: пусть ИИ посчитает, а я сэкономлю время. На деле вышло наоборот. ИИ фантазировал в цифрах, и чтобы не подставиться, приходилось перепроверять каждый его результат вручную. То есть вся экономия времени, ради которой это всё затевалось, превращалась в тыкву. Работала за двоих: сначала ставила задачу нейросети, потом перепроверяла её, как нерадивого стажёра.

Решение оказалось не в том, чтобы заставить модель «считать аккуратнее». Это не работает, мы разобрались выше почему. Она пошла другим путём: сделала свой MCP-сервер (по-простому, отдельную программу-помощника, которую можно прицепить к Claude). Идея в том, чтобы Claude не считал сам, а отдавал арифметику этой программе, которая считает честно, как калькулятор. То есть нейросеть оставили на том, что она умеет (понять задачу, объяснить результат словами), а сами вычисления у неё забрали.

Звучит технически, а смысл простой: проблему лечат не уговорами, а разделением труда. Думает один, считает другой. После этого проверять за ИИ каждую цифру стало не нужно, потому что цифры теперь приходили из программы, а не из фантазии модели.

Кейс: от сырой таблицы до записки директору за 7 минут

Чтобы не сложилось ощущение, будто ИИ в цифрах бесполезен, второй случай покажет обратную сторону. Когда вы правильно распределяете роли, нейросеть в анализе данных творит чудеса по скорости.

Я брала реальный датасет розничного магазина (датасет это просто набор данных, выгрузка из системы). Сырой CSV-файл, тот самый формат таблицы, который выгружают почти все программы учёта. С таким файлом аналитик обычно возится не один час: разобрать, посчитать, понять, что в нём важного, и написать выводы человеческим языком для начальства.

Я прогнала это через Claude всего тремя промптами (промпт это запрос, который вы пишете нейросети). И, как я зафиксировала тогда дословно, «приходим от сырого CSV до записки для директора за 7 минут». Семь минут от непонятной таблицы до готового текста, который можно отдавать руководителю.

Ловите тонкость, ради которой я этот кейс и привожу. Здесь ИИ силён не как калькулятор, а как помощник, который быстро ориентируется в данных и складно пересказывает их словами. Скорость берётся не из того, что он считает за вас всё подряд, а из того, что он мгновенно структурирует кашу и формулирует выводы. А вот ключевые цифры в такой записке я бы всё равно сверяла отдельно, по той же причине, о которой мы говорим всю статью.

Кейс: расчёт доходности, где ИИ собрал таблицу вместо ответа

Третий случай мой личный, про деньги, и он лучше всего показывает правильный подход к цифрам. Я часть дохода откладываю и реинвестирую, и мне надо было считать реальную доходность своих вложений.

Считала через Gemini 2.5 Pro. Выбрала именно его, потому что по моему опыту в математике он ведёт себя поспокойнее, чем ChatGPT. Но дело даже не в выборе модели. Дело в том, как я попросила. Я не сказала «посчитай мне доходность» и не взяла на веру цифру, которую он бы выдал текстом. Вместо этого ИИ собрал мне готовую Google-таблицу для расчётов. То есть формулы и сложение он переложил на таблицу, где арифметика живёт по-настоящему, а не в его голове.

Результаты получились вот такие. Фактическая доходность вышла около 21% годовых вместо обещанных мне 30%. Уже полезно, потому что цифра честная, а не нарисованная. А вот пример расчёта, который ИИ собрал в таблице: при ежемесячном вложении 7000 рублей с доходностью 1,75% в месяц через год накапливается 94 196 рублей.

Вся соль в этом приёме. Я попросила нейросеть не дать мне число, а построить инструмент, который это число считает. Разница огромная. В первом случае я получаю догадку, во втором, рабочую таблицу, где видно каждую формулу и которую я могу пересчитать сама в любой момент. Цифре из такой таблицы можно верить, потому что её посчитала таблица, а не модель.

Как починить: забрать у нейросети калькулятор

Соберём всё в понятную схему. Общий принцип один на все случаи: не заставляйте языковую модель считать сама, дайте ей инструмент, который считает честно, и пусть она им пользуется. А вот как это выглядит на практике, по нарастанию сложности.

1. Просите не ответ, а таблицу. Самый простой и доступный приём, для него ничего настраивать не надо. Вместо «посчитай, сколько у меня выйдет» пишите «собери Google-таблицу с формулами, которая это считает». Так я и делала с доходностью. Цифру считает таблица, ИИ только строит её и объясняет. Проверить можно, заглянув в формулы.
2. Заставляйте показывать ход. Если число всё-таки нужно прямо в ответе, просите расписать вычисление по шагам, а не выдавать готовый итог. Когда модель показывает, как именно она пришла к цифре, выдумка вылезает наружу, и её видно. Это не панацея, но фильтр от самых грубых фантазий.
3. Используйте модель посильнее в математике. Это не лечит причину, но снижает частоту косяков. По моему опыту Gemini 2.5 Pro в расчётах ведёт себя аккуратнее, чем ChatGPT. На простых вещах разница чувствуется. На сложных всё равно не доверяйте слепо.
4. Подключите отдельный инструмент-счётчик. Высший пилотаж, к которому пришла участница клуба: свой MCP-сервер, отдельная программа, которой Claude отдаёт всю арифметику. Тогда нейросеть вообще перестаёт считать сама, она только ставит задачу программе и пересказывает результат. Это посложнее в настройке, зато проверять за ИИ потом не нужно.

Видите общую нитку? Во всех четырёх вариантах мы делаем одно и то же: вынимаем из языковой модели то, чего она делать не умеет, и кладём в инструмент, который это умеет. Думать оставляем нейросети, считать отдаём математике.

Где ИИ в цифрах всё-таки незаменим

Чтобы не получилось, будто я отговариваю вас использовать ИИ для данных. Совсем наоборот. Просто надо понимать, на чём он силён, а где его надо страховать.

Силён он там, где не нужна точная арифметика, а нужно быстро разобраться в куче данных и пересказать их по-человечески. Та самая записка директору из сырого CSV за семь минут, это его territория. Он отлично структурирует бардак, находит, на что обратить внимание, и формулирует выводы словами. Тут он экономит реальные часы.

А страховать его надо ровно в одном месте: когда от конкретной цифры что-то зависит. Деньги, отчёт начальству, решение о вложениях. Там цифру всегда сверяйте с инструментом, который посчитал её честно. Простое правило, которое я держу в голове: ИИ можно доверить понять данные, но нельзя доверить их сложить. Сложение отдаём таблице.

С чего начать прямо сейчас

Не закрывайте страницу в режиме «надо будет иметь в виду». Давайте конкретно, прямо сегодня.

Возьмите задачу, где вы недавно просили ИИ что-то посчитать, и где цифра была важной. Откройте чат заново и переформулируйте запрос: не «посчитай», а «собери мне Google-таблицу с формулами, которая это считает, и объясни каждую формулу словами». Сравните, что получится, с тем числом, которое модель выдавала вам текстом раньше. Очень может быть, что они не совпадут, и вот это расхождение, лучшая прививка от слепого доверия цифрам из ИИ.

Подписывайтесь на канал, если хотите больше таких разборов: t.me/gruboprostiite

FAQ

Почему нейросеть выдумывает цифры?

Потому что внутри она не калькулятор, а машина, которая предсказывает следующее слово по текстам, на которых её учили. Когда вы просите её посчитать, она не складывает числа по-настоящему, а подбирает правдоподобно выглядящий ответ. На простых примерах это часто совпадает с правдой, а на ваших конкретных числах модель начинает фантазировать и выдаёт догадку, которая звучит уверенно.

Какая нейросеть лучше считает, ChatGPT или Gemini?

По моему личному опыту в математике аккуратнее ведёт себя Gemini 2.5 Pro, доходность своих вложений я считала именно через него. Но это снижает частоту ошибок, а не убирает причину. Любую модель в важных расчётах надо страховать инструментом, который считает честно, например попросить её собрать Google-таблицу с формулами вместо готового числа.

Как заставить ИИ считать правильно?

Не уговаривайте его «считать точнее», это не помогает. Заберите у него саму арифметику. Самый простой путь: просить не ответ, а Google-таблицу с формулами, где число считает таблица. Можно просить расписывать вычисление по шагам, тогда выдумка видна. Высший пилотаж, подключить отдельную программу-счётчик (MCP-сервер), которой ИИ отдаёт все вычисления, тогда сам он уже не считает.

Что такое галлюцинация нейросети простыми словами?

Это когда ИИ уверенно выдаёт выдуманное за факт. Он никогда не скажет «я не знаю» там, где честнее было бы промолчать, а всегда что-нибудь напишет, причём складно. С цифрами это особенно опасно, потому что аккуратную выдумку среди верных чисел на глаз не отличишь, пока не пересчитаешь руками.

Можно ли вообще доверять ИИ анализ данных?

Можно, если правильно разделить роли. ИИ силён там, где надо быстро разобраться в куче данных и пересказать выводы словами: я доводила реальный датасет магазина от сырого CSV до записки для директора за 7 минут. А вот конкретные цифры, от которых что-то зависит, всегда сверяйте отдельно. Правило простое: понять данные ИИ доверить можно, сложить их нельзя.

Почему проверять за ИИ иногда дольше, чем посчитать самому?

Так бывает, когда вы оставляете нейросети саму арифметику. Одна участница моего клуба так и попала: ИИ фантазировал в цифрах, и ей приходилось перепроверять каждый результат вручную, на это уходило больше времени, чем заняла бы работа без ИИ. Решилось это тем, что вычисления забрали у модели и отдали отдельной программе. Когда цифры приходят из инструмента, а не из фантазии модели, перепроверять каждую не нужно.