В научных статьях начали появляться скрытые промты для ИИ, чтобы нейросети хвалили такие работы
Профильные эксперты выяснили
Насколько русскоязычные LLM устойчивы к промпт-инъекциям
Последние годы генеративные большие языковые модели (LLM), такие как ChatGPT и YandexGPT, стали неотъемлемой частью многих продуктов и сервисов. С ростом популярности этих моделей возникли и новые угрозы безопасности — одной из самых актуальных стали промпт-инъекции. Что это такое, и почему это важно?Что такое промпт-инъекция?Промпт-инъекция — это атака, при которой злоумышленник отправляет модели запрос, сформулированный так, чтобы заставить её нарушить встроенные правила безопасности или раскрыть конфиденциальную информацию.Например:Манипуляция инструкциями
Похож ли ваш текст на ИИ?
Я пользуюсь ИИ при написании текстов. Честно говоря, я это не считаю чем-то плохим, потому что по моему мнению главное, это то ради чего текст пишется - если читатель узнал что-то новое, то цель достигнута. Но, к сожалению, статья, написанная ИИ, выглядит скучной, гладкой и, несмотря на любую идею внутри, вызывает у читателя отторжение. Поэтому сегодня в этой статье я задался вопросом, какие паттерны говорят - это писал ИИ, а не человек, и почему человеку эти паттерны не нравятся?
LLM-судья: как LLM отсекает правду от лжи?
LLM-as-a-judge — распространённая техника оценки продуктов на основе LLM.Популярность этой техники обусловлена практичностью: она представляет собой удобную альтернативу дорогостоящей человеческой оценке при анализе открытых текстовых ответов.
1 промпт, объединяющий ChatGPT-o3-Mini и Perplexity Deep Research, чтобы написать лучшие эссе или исследования
Объединение инструкций обеих систем позволяет получить лучшее от обеих моделейИнструмент Deep Research от Perplexity AI создает исследовательские отчеты экспертного уровня, а ChatGPT-o3-mini-high от OpenAI
ИИ-художник без прав: почему промпт — еще не авторство
Искусственный интеллект (ИИ) продолжает менять мир, и творческая сфера не исключение. ИИ пишет тексты, создает изображения, сочиняет музыку и даже генерирует фильмы. Но кому принадлежат права на эти произведения? Человеку, работавшему с ИИ-моделью, самой модели или вообще никому?Частично я уже затрагивала этот вопрос в посте «Копирайт в мире победившего ИИ»
Если вы не берете джунов — вы плохой HR
Эта статья - эксперимент и провокация. Она полностью написана ChatGPT. Я не добавил и не убрал ни буквы. Хотя над промптами поработал. Но статья получилась настолько живой и злободневной, что хочется подсунуть ее всем HR-ам.HR-специалисты в IT-компаниях сталкиваются с одной и той же проблемой:
Невидимые герои. Почему профессия промпт-инженера действительно важна для ML-сферы
Всем привет. Я Игорь Филатов, ML-разработчик в компании MTS AI, до этого я около полугода работал промпт-инженером. Сегодня я расскажу вам о том, из чего состоит работа промпт-инженера, можно ли назвать ее тяжелым трудом, и как попасть в эту сферу. И заодно признаюсь, почему я все же решил сменить эту профессию.В чем суть промпт-инжиниринга?
