Технология будет гарантировать, что пользователь получает результат именно от той модели, к которой обращался
Anthropic объявила о разработке открытой системы FlashProve, которая дает криптографическое подтверждение происхождения ответов искусственного интеллекта.
Об этом информирует РБК-Украина со ссылкой на Anthropic.
Скрытая угроза и невидимая подмена моделей
Anthropic отмечают: обычный пользователь не может проверить, какая именно языковая модель сгенерировала ответ. Поэтому сервисы маршрутизации или сами разработчики могут незаметно подменять дорогие модели дешевле, чтобы сократить расходы.
Оценка исключительно по качеству текста остается ненадежным методом. Даже суррогатные или скомпрометированные системы способны выдавать внешне правдоподобные результаты, скрывая реальный процесс генерации от конечного потребителя.
Как работает система FlashProve?
Новая разработка опирается на криптографические доказательства вывода.
В системе предусмотрены две основные фазы для надежного контроля:
Офлайн-фаза публикует краткий цифровой отпечаток весов модели без раскрытия проприетарных параметров.
Онлайн-фаза создает доказательство для каждого конкретного запроса и сгенерированных токенов.
Пользователи или независимые аудиторы могут проверить полученный файл на обычном компьютере в считанные секунды. Это полностью исключает возможность незаметной фальсификации результатов.
Технические показатели и скорость проверки
При тестировании на модели Llama 4 Maverick с 400 миллиардами параметров система показала высокую производительность. Один графический процессор H100 генерирует подтверждения со скоростью около 110 токенов в секунду.
Файл доказательства объемом 1024 токенов занимает 19 МБ, а его проверка на обычном центральном процессоре длится всего несколько секунд. Это позволяет использовать технологию без излишних вычислительных затрат.
Открытый код и перспективы для рынка
Anthropic изложила техническую спецификацию и рабочий код системы GitHub под открытой лицензией. Разработчики надеются на активное участие сообщества в усовершенствовании инструмента.
Они убеждены: введение таких решений существенно повышает доверие к искусственному интеллекту. Технология также открывает новые возможности для регулирования отрасли, проверки безопасности и контроля соблюдения обязательств разработчиками.
