Участник клуба работал в Cursor, попросил агента походить по интернету и собрать ему определенную информацию, а затем отошёл от компьютера заварить чай.
Когда он вернулся, оказалось, что лимит подписки съеден, а Cursor за 10 минут сожрал столько ресурсов, сколько обычно хватает на целый день работы 😫
Стали разбираться, что произошло. Когда Cursor ходит по интернету, ему нужно «видеть» страницы. И вместо того чтобы прочитать HTML-код текстом, он решил делать скриншоты каждой страницы на каждом шаге🤦♀️
Ну то есть, буквально, когда ИИ открыл сайт, то сразу сделал скриншот, когда кликнул, то получил еще один, после того как подождал загрузку, снова сфотографировал экран...
Тем временем каждый скриншот — это десятки тысяч токенов, потому что картинки жрут в разы больше текста 🤷♀️
Для полного счастья вся предыдущая история пересылается в ИИ заново с каждым шагом, в результате чего его краткосрочная память засоряется, а ненужный контент растет, как снежный ком.
ИИ, разумеется, мог бы взять со страниц попросту текст, и это оказалось бы в 100 раз дешевле. Однако ему этого никто не сказал, а он не спросил.
Наверняка у вас были ситуации, как дофига умный стажёр в первый рабочий день, решил сделать «как понял», а в итоге получалась полная ерунда? Вот-вот, тут произошло то же самое.
Мы это разобрали в клубе за 15 минут, нашли корень проблемы, а остальные участники поняли, что нужно предусмотреть при работе с искусственным интеллектом при аналогичном задании.
ИИ — это не дорого и не дёшево. ИИ стоит ровно столько, насколько вы понимаете, что он делает.
А если вы в этом не уверены, то хорошо бы иметь рядом кого-то, кто скажет «стой, не туда» до того, как запахло жареным 😅