Как я устал тестировать LLM-системы вручную и написал универсальный сканер уязвимостей
ПредысторияПолгода назад я работал над внедрением RAG-системы в крупной финансовой компании. Задача была типичная: построить корпоративного чат-бота, который мог бы отвечать на вопросы сотрудников по внутренним документам. Казалось бы, что может пойти не так? Берем готовую LLM, подключаем к базе знаний, добавляем немного магии с векторным поиском — и готово.Но когда я начал тестировать систему перед продакшеном, обнаружил, что наш "умный" ассистент превращается в болтливого предателя при правильно сформулированных вопросах.
Ключевые понятия LLM
Современные языковые модели (large language models) стали ключевым элементом в развитии искусственного интеллекта и обработки естественного языка. Модели, основанные на глубоком обучении и архитектуре трансформеров, способны генерировать текст, отвечать на вопросы, писать код, создавать художественные произведения и даже участвовать в логических рассуждениях.
Тенденции развития периферийного искусственного интеллекта в автоматизации технологических процессов
Введение
ИИ-браузер OpenAI: новый конкурент Google Chrome
OpenAI близка к выпуску веб-браузера на базе искусственного интеллекта, который бросит вызов доминирующему на рынке Google Chrome от Alphabet, пишет Reuters со ссылкой три источника. Запуск браузера запланирован на ближайшие недели, сообщили источники, и он будет использовать искусственный интеллект для кардинального изменения того, как пользователи работают в интернете. Он предоставит OpenAI более прямой доступ к краеугольному камню успеха Google - пользовательским данным.
Как создать презентацию с помощью нейросети: обзор ИИ-инструментов для презентаций
Тем, кто интересуется визуальными возможностями ИИ, может быть полезен наш разбор нейросетей для оживления фотографий. Подробнее в нашей статье по ссылкеНейросети продолжают стремительно развиваться, и, если ещё пару лет назад генерация изображений по текстовому описанию вызывала у людей восторг и удивление, то сегодня ИИ-инструменты применяются для большинства повседневных задач, включая задачи по созданию презентаций.
Зумерам стало сложнее находить работу в IT. Во всем виноват AI?
Раньше у тех, кто только начинает карьеру, была понятная стратегия входа в IT: отучиться в универе, сделать пару пет-проектов, пойти на стажировку и дорасти до мидла. Это казалось логичным: компании растут, специалистов не хватает, джунов охотно берут.
Из чата в TMS: Как Telegram-бот с GPT ускоряет создание и выполнение тестов
В текущих реалиях тестировщики часто остаются в тисках рутины: трудозатраты на создание тест-кейсов и их ручной импорт в TMS (системы управления тестированием) съедают до 40-60% рабочего времени QA-инженера (
Какое мрачное(?) будущее нас ждёт по версии Илона Маска
На YCombinator вышло его свежее интервью, и звучит оно как предупреждение. AGI, роботы, Марс и человеческая ненужность — не сюжет Чёрного зеркала, а рабочий план на ближайшие годы. Мы разобрали, что именно он имел в виду — и почему в этом есть здравое зерно.
