llm.
Исследование: ввести ложную медицинскую информацию в LLM оказалось удивительно легко
Смена всего 0,001% входных данных на дезинформацию заметно уменьшает точность ИИСуществует очевидная проблема: интернет переполнен дезинформацией, а большинство крупных языковых моделей обучаются на огромном количестве текстов, полученных из интернета.В идеале, если бы объём точной информации был значительно больше, то для лжи не осталось бы места. Но так ли это на самом деле? В новом исследовании
Security-RAG или как сделать AI Security tool на коленке
ЗатравочкаLLM-ки и LLM-агенты продолжают наводить шум. статьи про то как сделать очередной RAG или Агента продолжают клепаться (да блин даже мы одна из этих статей), huggingface выпускают smolagents, квантизация позволяет дойти LLM-кам до простых работяг и обывателей, давая им возможность в них потыкаться в той же LM studio или других приложениях.
Законы масштабирования нейронных языковых моделей
Инвестиции, открытие новых законов... Сотни лет прошло, а ничего не меняется...Эта статья от 23 января 2020 года не так известна, как "Всё, что вам нужно - это внимание
AI не справляется с высокоуровневыми историческими экзаменами: исследование показало лишь 46% точности
AI может превосходно справляться с определёнными задачами, такими как программирование или создание подкастов. Однако ему сложно сдать экзамен по истории на высоком уровне, как показало новое исследование.Команда исследователей разработала новый бенчмарк для проверки трёх ведущих моделей больших языков (LLM) — GPT-4 от OpenAI, Llama от Meta и Gemini от Google — на исторических вопросах. Этот бенчмарк, названный Hist-LLM, оценивает
Как я уволился с хорошей работы, чтобы делать стартапы и обосрался
Части: 1. Увольнение 2. Тренажер для менеджеров общения с детьми 3. Выводы 4. Что дальше?Самое интересное в жизни других людей – не сами события, а то, что за ними стоит. Это обычно и самое недоступное для внешнего наблюдателя. Я попытаюсь рассказать не только о том, что делал, но и показать, что было за кулисами.УвольнениеЧто делать, когда ты чувствуешь, что живешь на пониженном уровне сложности?
Microsoft Research: системы ИИ невозможно сделать полностью безопасными
Исследователи Microsoft Research, которые проверили безопасность более 100 собственных продуктов генеративного ИИ, пришли к выводу, что эти модели усиливают существующие риски безопасности и создают новые.
Эмоциональное принятие решений в LLM: исследование, которое мы показали на NeurIPS 2024
Привет, Хабр! Меня зовут Михаил, я — младший научный сотрудник группы «ИИ в промышленности» в AIRI. В этом году на конференции NeurIPS 2024 мы представили работу, посвященную сложной теме современного ИИ — эмоциональным большим языковым моделям (LLM) В целом понятно, что LLM умеют так или иначе эмулировать эмоции, ведь их обучают по большей части на данных, сгенерированных человеком. А человек — весьма эмоциональное создание. Но что такое правильная эмуляция?насколько правильно происходит эта эмуляция?
Как мы запилили свой первый внутренний AI-хакатон и что из этого вышло
Рассказываем, как у нас появилась идея сделать внутренний хакатон по нейронкам, как мы к этому готовились и как всё реализовали, а также какие проекты взяли в работу. Статья будет полезна командам, которые тоже хотят попробовать подобную активность и ищут кейсы крупных компаний.🔥
Свой стартап на LLM и агентах — это просто! (нет). Или почему технология не всегда так важна
В эпоху повального увлечения AI кажется, что достаточно взять OpenAI API, найти проблему, написать сложненький промпт и готово — ваш следующий единорог уже на подходе. Однако реальность, как всегда, оказывается намного сложнее и это мираж технологической простоты. В этой статье — рассуждения о том, почему базовая технология или стек целиком — это лишь верхушка айсберга в создании успешного продукта, и почему даже имея доступ к самым передовым технологиям, создать по-настоящему ценный продукт остается сложной задачей.
