проголосованная точность (N)
1 образец / правильный
N образцов/правильно
дешевле за правильный

Точность и стоимость на каждом N

Проголосованная точность быстро растет, а затем стабилизируется; Стоимость правильного ответа равна N выборкам, разделенным на эту точность. Самая дешевая строка за правильность выделена — это почти всегда низкое значение N. Выбранное вами значение N отмечено.

N образцовПроголосованная точностьСтоимость/запрос$/правильноЕжемесячно

Голосование дает точность, а не экономию

Самосогласованность — один из самых дешевых трюков с точностью в книге, и один из самых простых для неправильного прочтения в электронной таблице. Механизм честен: задайте модели один и тот же вопрос несколько раз при реальной температуре, выберите ответ, который появляется чаще всего, и вы полагаетесь на тот факт, что приличная модель права с большей последовательностью, чем она ошибается в каком-либо отдельном случае. Точность действительно повышается. Быстрее растет счет, потому что на второй, третий или пятый образец скидки нет — каждый из них — это звонок по полной цене. А кривая точности недобрая: скачет от одного отсчета к трем, от трех к пяти дает заметно меньше, а к седьмому вы платите полную цену за погрешность округления улучшения. Разделите стоимость в N раз на точность голосования, и цена за правильный ответ обычно возрастает, а не падает — вот почему голосование является инструментом точности, а не инструментом экономии. На нижнем уровне также есть ловушка: если ваша точность по одной выборке ниже 50%, голосование большинства не спасет вас, а тянет вас вниз, потому что теперь большинство голосует за неправильный ответ. Единственное число, которое этот калькулятор не может вам показать, — это стоимость ошибки; это число, которое решает, стоят ли дополнительные образцы того. Сначала оцените один звонок с помощью калькулятор стоимости токена, сравните дешевую, но неправильную модель с более дорогой, но правильной моделью с Калькулятор стоимости правильного ответа, а если вы связываете вызовы с агентом, где сбои каскадируются, определите размер всего запуска с помощью Калькулятор стоимости ИИ-агента.

Разместите свой проект:DigitalOcean — 200 долларов бесплатно ↗Хостингер VPS
Стоимость за правильный ответСтоимость токенаЖетоны рассужденийСтоимость ИИ-агентаСравнение моделей