ИИстерия — а есть ли она?
Вводное словоЧуть более двух лет назад я опубликовал здесь статью про восприятие IT-специалистами феномена нейросетей. Тогда моё «исследование» (не стоит убирать кавычки, это именно «исследование») базировалось на опыте психологического консультирования 30 представителей сферы, с которыми поднималась эта тема. Если мы вернемся немного назад во времени, то картина будет следующей.
Долг понимания — скрытая цена кода, сгенерированного искусственным интеллектом
“Долг понимания” (comprehension debt) — это скрытая цена, которую человеческий интеллект и память платят в результате чрезмерной зависимости от ИИ и автоматизации. Для инженеров это особенно актуально в сфере разработки агентных систем.
Как мы сломали индекс обитаемости экзопланет: Парадокс ESI, Physics-Informed ML и 9600 фейковых «Земель»
В прошлой нашей статье мы рассказывали, как написали программу ExoLogica AI для анализа экзопланет, и неосторожно бросили фразу: «Машинное обучение без законов физики — это просто генератор случайных чисел».В комментариях Senior Data Scientist'ы совершенно справедливо разнесли нас за терминологию. Нам объяснили, что ML не генерирует энтропию, а строит вероятностные распределения. И что проблема нашей базовой модели заключалась не в «случайности», а в отсутствии правильного физического индуктивного смещения (inductive bias)
Спящий джинн в кремниевых оковах: станет ли AGI пророчеством Головачева?
Внимание, небольшое предупреждение, я буду ссылаться на серию романов Василия Головачева "Не будите спящих джиннов" (https://www.litres.ru/series/ne-budite-spyaschih-dzhinnov-1651/). И будет несколько спойлеров.Вообще у меня дух захватило от этой аналогии, в связи с чем спешу познакомить вас с этой теорией.Всем приятного будущего)
Исчезающие сообщения, паранойя и переворот: что на самом деле произошло в OpenAI
Вы когда-нибудь видели, как человека ловят на лжи на работе?
Amazon научил ИИ-агентов эволюционировать: 3 строки кода и первое место на бенчмарке
Исследователи Amazon и Университета Пенсильвании выпустили
MitM-прокси для LLM
Многие разработчики в последнее время используют облачные LLM для генерации программного кода, в том числе с помощью агентов. Но это вызывает как минимум две проблемы:Утечка информации: мы не знаем, какие данные LLM передаёт в облако
Почему ИИ – это вовсе не пузырь доткомов
Удешевление технологий означает их повсеместность, а не спад.
