Что побуждает LLM врать и как этого избежать в своих продуктах
Одна из основных проблем использования больших языковых моделей (LLM) в бизнесе заключается в том, что LLM склонны к галлюцинациям. Как можно доверить своих клиентов чат-боту, который может слететь с катушек и в любой момент сказать что-то неуместное? Или как можно доверять корпоративному AI-ассистенту, если он рандомно придумывает факты?
Искусственный интеллект: от первых идей к современной реальности
Когда я размышляю о развитии искусственного интеллекта, у меня захватывает дух от того, как далеко и чудесно ИИ продвинулся за эти годы. Заря AI (artificial intelligence) взошла в 1950-х годах. Со временем идея эволюционировала, началось состязание умов — научное соперничество, лихорадка, которую хотя бы раз в жизни испытывает каждый исследователь или ученый. Началась эпоха инноваций и технологических чудес, когда человек по-настоящему заинтересовался, может ли машина мыслить.
Numenta проведет онлайн-симпозиум по запуску ИИ-фреймворка Thousand Brains Project
Джефф Хокинс, команда Numenta и Thousand Brains Project проведет онлайн-симпозиум по запуску опенсорс-проекта нового ИИ-фреймворка, созданного на основе 20 лет исследований и множества научных публикаций.Ранее я уже писал про Хоккинса на Хабре
Интервью Forbes c Джоном Джампером из Google DeepMind о получении Нобелевской премии и будущем AlphaFold
В то время как языковые модели все лучше справляются с такими задачами, как написание стихов и электронных писем, Джампер надеется увидеть эру, когда ИИ будет решать проблемы, которые люди никогда не смогут решить самостоятельно.
Suno AI — а не спеть ли нам песню о любви? А не выпустить ли новый хит?
Что это за сервис Suno, чем он уникален и почему о нём стоит рассказать? Вкратце, Suno AI это самая продвинутая из всех на конец 2024 года коммерческая нейросеть по созданию музыки. Все мы знаем, что для того чтобы создавать красивые картинки уже третий год не требуется умение рисовать, достаточно только уметь описать что вы хотите увидеть, вот и в музыкальном творчестве с появлением Suno всё тоже стало очень демократично — создание качественной музыки и песен на базовом уровне не требует больше слуха или образования, нужно только желание и немного фантазии. Вот, например, оцените песню
Люди и LLM похожи больше, чем вы думаете. У нас тоже есть системный промпт, контекст и всё остальное
Люди и модели похожи больше, чем вы думаете. Собственно, это и не удивительно, ведь модели для этого и создаются. В идеале они должны когда-нибудь стать вообще неотличимыми от людей. Но как это проявляется сейчас, на данном этапе их развития? И в чем конкретно мы так похожи на них, или они на нас? Подойдем к этому вопросу в терминах, свойственных самим LLM.
Исследователи продемонстрировали джейлбрейк по взлому роботов с ИИ
IEEE Spectrum представил отчёт с описанием случая, когда взломанные роботы могли использоваться для вредящих людям действий. Исследователи отмечают, что роботов с ИИ оказалось взломать так же легко, как и чат-ботов.
Приглашаем на митап «Современный ИИ глазами новичков и профессионалов»
Искусственный интеллект – самая обсуждаемая технология 2024 года. На протяжении последних лет прикладным аспектам ИИ уделяется большое внимание: эффективность инструментов, применение на практике, возможности и опасности ИИ, безопасность. При этом тема управления ИИ остается в тени. Поговорим об ИИ с различных точек зрения.В митапе «Современный ИИ глазами новичков и профессионалов» примут участие специалисты по цифровой трансформации ЕДИНОГО ЦУПИС, а также приглашенный спикер – участник разработки национальной стратегии развития ИИ.
