Токены в ИИ и оптимизация промптов: как я сэкономила 50% бюджета и перестала здороваться с ChatGPT
Меня зовут Анна, я ведущий инженер по тестированию в Рексофт. Последние два года я плотно работаю с большими языковыми моделями: интегрирую их в CI/CD, использую для генерации тестов и анализа логов. И довольно быстро столкнулась с жестокой реальностью: недельный лимит токенов на проекте — всего 10 000, а один мой вежливый запрос с «пожалуйста» съедал почти 500 токенов на входе и еще пару тысяч на выходе.
О чём писать в книге о браузере, если ChatGPT уже знает все Web API?
Здравствуйте, уважаемые читатели. Рады предложить вам одну из самых долгожданных новинок на тему современной веб-разработки - книгу уважаемого Александра Гусева @flancer "Браузер как операционная система для разработки современных приложений
«Скопируй промпт дважды и получишь +76%». Я решил проверить
Всем привет. В декабре по всем AI-каналам пролетел лайфхак, который звучал как развод: продублируй свой запрос к нейросети, буквально Ctrl+C, Ctrl+V в одном сообщении, и точность вырастет. В пересказах фигурировали «+76%» и ссылка на Google Research, что придавало всей этой истории солидности. Трюк выглядел как-то настораживающе и при том вроде не сложным для проверки. Короче, я потратил $1.48, прогнал 3360 запросов и теперь знаю ответ. Он оказался интереснее, чем «работает || не работает».Что на самом деле написано в статьеИсточник это препринт Prompt Repetition Improves Non-Reasoning LLMs
Midjourney требует от голливудских студий раскрыть подробности использования ими ИИ
Midjourney потребовал от Disney, Universal и Warner Bros раскрыть подробности использования ими инструментов на базе искусственного интеллекта. В прошлом году эти три голливудские студии подали в суд на стартап из-за предполагаемых нарушений авторских прав — модели компании способны генерировать изображения популярных персонажей.
Кто такие синтетические покупатели и почему они меняют e-commerce
Электронная коммерция (e-commerce) долго училась понимать покупателя через данные: что человек искал, на какие карточки нажимал, где бросал корзину, как реагировал на скидки и какие товары покупал вместе. Эта аналитика стала основой онлайн-торговли, но у нее есть ограничение — она почти всегда объясняет то, что уже произошло.
Почему хороший ответ ИИ иногда ведёт к плохому результату
Иногда я прошу ИИ улучшить производительность страницы и получаю на вид хороший результат: компонент становится проще, лишний код исчезает, рендеров становится меньше. Позже выясняется другое: страница тормозила из-за тяжёлого запроса, большого списка или лишней загрузки данных.Так часто бывает с производительностью. Видно медленный участок интерфейса, и рука тянется к самому заметному месту:Оптимизируй этот компонент.
Структурированная разработка на основе промптов
Как сделать изменения, вносимые с помощью LLM, управляемыми, проверяемыми и воспроизводимыми.Программные ассистенты LLM продемонстрировали значительную ценность, но в основном для отдельных разработчиков. Внутренняя ИТ-организация Thoughtworks использует их для своих команд и разработала метод и рабочий процесс, называемый структурированной разработкой на основе промптов (Structured Prompt-Driven Development, SPDD). В одноименной статье Вэй Чжан и Джесси Цзе Ся,
Магия чепухи: как «бессмысленные» инструкции заставляют нейросети работать лучше
Привет, Хабр! Меня зовут Михаил Сальников, я независимый исследователь в области искусственного интеллекта, автор бенчмарка AI Independence Bench и эксперимента с автономным ИИ под именем Aria. Регулярно изучая свежие препринты на arxiv.org, я порой натыкаюсь на результаты, заставляющие долго размышлять. Сегодня — как раз такой случай: мы разберем работу, изящно разрушающую один из главных мифов промпт-инжиниринга.
Режим блокировки от OpenAI защитит конфиденциальные данные от атак с внедрением промптов
OpenAI анонсировала новую функцию, которая обеспечит дополнительную защиту от атак с внедрением вредоносных подсказок на веб-страницах и в других источниках контента.
Тайная слабость нейросетей: почему большие контекстные окна не работают
Привет, Хабр! Меня зовут Михаил Сальников, я независимый исследователь в области искусственного интеллекта, автор бенчмарка AI Independence Bench и эксперимента с автономным ИИ, известным как Aria. Я почти каждый день читаю статьи в arxiv.org на эту тему и временами натыкаюсь на очень интересные результаты от других исследователей. Решил, что стоит начать делиться с хабровчанами самыми примечательными из них (а если бы я продолжил писать только про свои работы, статьи выходили бы раз в пару месяцев 🙂)

