Парадокс безопасности локальных LLM
Команда AI for Devs подготовила перевод исследования о парадоксе безопасности локальных LLM. Если вы запускаете модели на своём сервере ради приватности, эту статью стоит прочитать. Эксперименты показывают: локальные модели вроде gpt-oss-20b куда легче обмануть, чем облачные а��алоги. Они чаще вставляют вредоносный код, не замечая подвоха, и превращаются в идеальную цель для атак.Если вы запускаете локальную LLM ради приватности и безопасности, эта статья must have. Наше исследование модели gpt-oss-20b (в рамках Red-Teaming Challenge от OpenAI
Нарративный двигатель LLM. Критика промптинга
Человечество тысячелетиями рассказывало истории, а теперь на этих историях учатся LLM. Что такое нарратив? Это история с сюжетом, помните? — Город, герои и возвращение. Но мы не будем углубляться в философскую глубину, где люди создают историю, чтобы осмыслить себя и свой опыт (желающие могут почитать Karl E. Weick), а рассмотрим, как можно применить нарративы в понимании работы LLM.Для начала постараюсь объяснить, почему я вообще считаю, что имею право использовать это слово в применении к LLM.
Эволюция протоколов встреч: от листка в блокноте до ИИ-ассистента
I. Первые шаги: листок, стенография и диктофонВ середине XX века к протоколированию добавился диктофон. Уже не надо было все ловить «на лету» — можно записать разговор и потом «разложить» записи в текст. Но диктофон имел слабое место: качество записи, шум, шепоты, пересекающиеся голоса — всё это мешало точности. К тому же, никто не может слушать три часа записи без усталости — и всё равно надо вручную транскрибировать, выбирать, что важно.Но технология, решая одну проблему, тут же создала другую. Часовые записи становились «цифровым кладбищем
Краткий обзор 10 локальных UI для LLM
Если вы хотите поиграться с LLM у вас есть несколько вариантов: можно задействовать LLM через код, можно воспользоваться чатом одного из облачных провайдеров, а можно развернуть у себя UI-клиента для работы с LLM. Их довольно много. И функционал у них может сильно различаться. В самом простом виде есть только чат. У наиболее продвинутых есть встроенные базы знаний, работа с изображениями и много других функций.Ниже краткий обзор 9 таких клиентов (отсортированы по предпочтению автора):Open WebUILM StudioMsty StudioLibrechat
Microsoft скопировал OpenAI Atlas и встроил его в Edge
Всего через два дня после релиза AI-браузера Atlas от OpenAI Microsoft выпустила почти идентичное обновление для Edge, представив новый режим Copilot Mode.
Пока ИИ обещает снять нагрузку, его разработчики пашут до 100 часов в неделю
Ведущие издания США пишут
