Аудит AI-сгенерированного кода

Проблема кода, написанного ИИ

Инструменты вроде Cursor, Bolt, Lovable и ChatGPT позволяют любому создать работающее приложение. Прототип выглядит отлично. Работает локально. Вы показываете его инвесторам или первым пользователям, получаете положительный отклик. Потом деплоите в продакшен — и начинаются проблемы.

AI-агенты пишут код, который работает, но не пишут код, готовый к продакшену. Они не думают о том, что произойдёт при росте нагрузки. Не учитывают, что может сделать злоумышленник. Не оптимизируют расходы. Результат — приложение, которое корректно функционирует на демо, но сжигает бюджет, сливает данные или ломается под реальным трафиком.

Эти цифры подтверждены независимыми исследованиями: Veracode протестировал 100+ LLM и обнаружил, что 45% сгенерированного кода проваливает тесты безопасности. Анализ Apiiro за 2025 год показал, что AI-разработчики раскрывают учётные данные почти вдвое чаще. Исследователи NYU нашли уязвимости в ~40% программ, сгенерированных Copilot, а исследование Стэнфорда подтвердило, что разработчики с AI-помощниками пишут менее безопасный код — и при этом больше уверены в его надёжности.

Что идёт не так в приложениях, созданных ИИ

Мы провели аудит десятков AI-сгенерированных кодовых баз. Одни и те же категории проблем появляются практически в каждой. Это не исключения — это системные слепые пятна, которые AI-инструменты стабильно пропускают.

Уязвимости безопасности

1. Открытые API-ключи и секреты

AI-инструменты часто хардкодят API-ключи, учётные данные баз и токены сторонних сервисов прямо в исходный код. Они попадают в публичные репозитории, клиентские бандлы или файлы окружения, которые уходят в продакшен. Один утёкший ключ OpenAI может сгенерировать тысячи долларов несанкционированного расхода за несколько часов.

2. Отсутствие аутентификации и авторизации

AI-приложения часто реализуют аутентификацию на поверхностном уровне — экран логина есть, но бэкенд на самом деле не проверяет права. API-эндпоинты принимают любой запрос. Административные маршруты доступны без проверки ролей. Пользователь A может видеть данные пользователя B, просто подменив ID в URL.

3. Инъекционные атаки

SQL-инъекции, XSS и промпт-инъекции распространены в AI-коде. AI-модели генерируют код, который конкатенирует пользовательский ввод напрямую в запросы, HTML или промпты LLM без санитизации. Один уязвимый эндпоинт может скомпрометировать всю базу данных или позволить злоумышленникам манипулировать поведением вашего ИИ.

4. Небезопасное хранение данных

Персональные данные в открытом виде, сессионные токены в localStorage, пароли хешированные MD5 или вообще без хеширования. AI-инструменты выбирают простейшую реализацию, которая редко бывает безопасной. Соответствие GDPR и требованиям конфиденциальности, как правило, отсутствует.

Оптимизация расходов на API

1. Избыточные вызовы API

Самая дорогая проблема, которую мы находим. AI-приложения делают лишние вызовы к платным сторонним API — геокодинг, финансовые данные, AI-модели, сервисы верификации. Они запрашивают одни и те же данные повторно, не кэшируют ответы и делают запросы, которых можно было бы избежать простой локальной логикой. Мы регулярно находим приложения, где 60-80% расходов на API — впустую.

2. Отсутствие лимитов и бюджетов

Нет лимитов на пользователя. Нет дневных лимитов расходов. Нет автоматических выключателей при скачке затрат. Один пользователь — или бот — может выжечь весь ваш месячный бюджет за день. AI-инструменты никогда не реализуют контроль затрат, потому что не имеют представления о вашей бизнес-модели и тарифах интегрируемых сервисов.

3. Отсутствие кэширования и батчинга

Запрос одного и того же курса валюты, геолокации по IP или профиля пользователя из платного API при каждом обращении вместо кэширования. Индивидуальные вызовы API в цикле вместо использования пакетных эндпоинтов. Каждый лишний запрос стоит денег, и при масштабировании это складывается в тысячи долларов в месяц.

Утечки данных и конфиденциальность

1. Логирование конфиденциальной информации

AI-код обожает избыточное логирование. Email-адреса, пароли, платёжные данные и персональная информация попадают в логи приложения, сервисы трекинга ошибок и сторонние аналитические системы. Эти логи часто доступны без аутентификации и хранятся бессрочно.

2. Избыточные ответы API

API-ответы, возвращающие целые объекты пользователя — включая хешированные пароли, внутренние ID, email-адреса и метаданные — когда фронтенду нужно только отображаемое имя. GraphQL-эндпоинты без ограничений глубины, позволяющие злоумышленникам извлечь всю модель данных.

3. Передача данных третьим сторонам

AI-инструменты интегрируют аналитику, трекинг ошибок и мониторинг без учёта того, какие данные в них уходят. Поведение пользователей, персональная информация и бизнес-данные оказываются в сторонних системах без согласия, нарушая GDPR и другие требования конфиденциальности.

Процесс аудита

Мы даём полный аудит с конкретными исправлениями — не просто список проблем.

Как это работает

1. Доступ и определение объёма

Вы предоставляете нам доступ на чтение к репозиторию и развёрнутому окружению. Мы определяем объём аудита на основе ваших приоритетов: полный аудит или фокус на конкретных направлениях (безопасность, расходы или конфиденциальность). Никаких изменений в коде на этапе аудита.

2. Автоматический анализ

Мы запускаем статический анализ, сканирование уязвимостей зависимостей, обнаружение секретов и профилирование расходов на API. Это ловит очевидные проблемы — известные уязвимости, открытые учётные данные, устаревшие пакеты с патчами безопасности и явные проблемы производительности.

3. Ручная экспертная проверка

Наши инженеры вручную проверяют архитектуру, бизнес-логику, потоки аутентификации, API-интеграции и обработку данных. Именно здесь мы находим то, что пропускают автоматизированные инструменты: логические ошибки, пробелы авторизации, возможности оптимизации расходов и проектные проблемы, которые проявятся при масштабировании.

4. Отчёт и приоритизация

Мы предоставляем детальный отчёт, где каждая находка категоризирована по критичности (критическая, высокая, средняя, низкая) и типу (безопасность, расходы, конфиденциальность, производительность). Каждая находка включает понятное описание риска, proof of concept где применимо и конкретную рекомендацию по исправлению с примерами кода.

5. Внедрение исправлений

По желанию мы реализуем исправления сами. Критические патчи безопасности применяются первыми, за ними следуют оптимизации расходов и улучшения конфиденциальности. Вы проверяете каждое изменение перед мержем. Результат — кодовая база, готовая к продакшену, которую можно деплоить с уверенностью.

AI-код vs продакшен-код

Что меняется после профессионального аудита

Стоимость аудита AI-сгенерированного кода

Прозрачные тарифы в зависимости от объёма кодовой базы и области аудита

Часто задаваемые вопросы

Ответы на частые вопросы об аудите AI-сгенерированного кода