Теория возможностей заменит теорию вероятностей в ML?
Современные генеративные модели используют мощный аппарат теории вероятностей: байесовскую оптимизацию, оценки максимального правдоподобия и тп. Но у этого подхода есть свои недостатки, например, галлюцинации, с которыми, наверняка, большинство сталкивалось при работе с ИИ. Проведем обзор не новой, но набирающей популярность теории возможностей и ее использования в машинном обучении. Для этого проанализируем доклад профессора Наньянского технологического (Сингапур) и Уорикского университетов (Великобритания) Jeremie Houssineau.
AGI как когнитивная ОС: что если искать программы, а не веса
Сложное поведение можно записать более компактной программой
Новая модель OpenAI решила более 100 открытых математических задач
OpenAI утверждает, что внутренняя модель, которую начали обучать 28 августа, уже решила более 100 давних открытых задач почти по всем основным областям математики. 24 дня обучения — и больше сотни открытых задач. Звучит так, будто OpenAI решили заспидранить математику, но пока это слухи. Разбираемся в очередных сплетнях.
OpenAI создаст консультативную группу по математике и ИИ
OpenAI объявила о создании независимой консультативной группы, которая будет базироваться в Институте перспективных исследований (Institute for Advanced Study) в Принстоне. “Консультативная группа по математике и искусственному интеллекту” (Advisory Group on Mathematics and Artificial Intelligence) призвана дать учёным возможность активнее участвовать в исследованиях компании, связанных с математикой.
Мечтает ли трехмерный андроид о четырехмерных овцах?
Скриншот из игры RuinerВведениеЭто статья‑дополнение к этой статье. У нее есть проблема — я утверждаю, что компьютер является математической структурой, и то, что его создавали выдающиеся математики своего времени.
Как устроены LLM: разбираем на примере 3-уровневой абстракции
Чтобы оптимизировать производительность больших языковых моделей (LLM), необходимо понимать весь программный стек. Мне не удалось найти подробную статью, которая показывала бы этот стек как общую картину, поэтому я решил написать такую статью сам. Эта статья не является исчерпывающим обзором или набором наилучших практик. Здесь я в большей степени делюсь моими общими представлениями о том, как выглядит ландшафт современных LLM‑систем.Во‑первых, любая система проектируется с расчётом на достижение конкретных целей с учётом заданных ограничений. В LLM‑системах наиболее принципиальные цели связаны с увеличением
ИИ-дилемма: рост против риска для человечества. Разбираем этически неоднозначную статью экономиста Чарльза Джонса
Публикуется полный перевод статьи
Интерфейс наблюдателя: структурная и математическая модель различения
Можно ли ввести наблюдателя и его первичное действие в строгую науку, избегая умозрительной метафизики и дурного регресса («кто наблюдает за наблюдателем»)?В статье исследуются условия, необходимые для того, чтобы совершить элементарный акт различения, зафиксировать его результат и передать следующему действию.Этот механизм описывается через интерфейс наблюдения — связку шага изменения и сохраняемого контекста. На выбранной двоичной модели затем строится совместная сцена различений и разбираются её геометрические, цветовые, музыкальные и арифметические представления.
Почему LLM не могут овладеть человеческим языком в совершенстве
Даже идеальная модель с бесконечным объемом текста не восстановит ту часть смысла, которая никогда не была закодирована в языковой форме.
ИИ заберёт тексты и код. Но это никогда не было главной работой человека. Часть 2
Всем привет! Я — философ науки и техники и технический писатель. Последние пару лет мою профессию регулярно «хоронят». Большие языковые модели всё лучше пишут документацию, а если вы работаете с текстами, кодом или другим цифровым контентом, то наверняка и сами уже заметили, как меняется привычный процесс работы. Кажется, что ИИ научился делать всё больше задач, которые раньше выполнял человек. Но производство текста, кода и другого контента лишь верхушка айсберга любой IT-профессии. В первой части
