Теория возможностей заменит теорию вероятностей в ML?
Современные генеративные модели используют мощный аппарат теории вероятностей: байесовскую оптимизацию, оценки максимального правдоподобия и тп. Но у этого подхода есть свои недостатки, например, галлюцинации, с которыми, наверняка, большинство сталкивалось при работе с ИИ. Проведем обзор не новой, но набирающей популярность теории возможностей и ее использования в машинном обучении. Для этого проанализируем доклад профессора Наньянского технологического (Сингапур) и Уорикского университетов (Великобритания) Jeremie Houssineau.
Тебя могут уволить, даже если ты всё делаешь правильно. Как жить с этой неопределённостью
После одной из последних статей я снова пошёл читать комментарии. Разговор начинался с выгорания, отношений с руководителем и личных границ, но довольно быстро свернул к одной теме: увольнению.Можно ли сказать руководителю, что ты устал, если после этого тебя могут начать считать проблемным? Стоит ли отказываться от лишней нагрузки, когда рядом есть люди, готовые работать больше? Что делать, если компания опять решит что-нибудь «оптимизировать», а новую работу потом придётся искать несколько месяцев?
Любовь на языке Rust: ownership, borrowing и конечный автомат отношений
Почему знакомство похоже на систему с неполной информацией, неопределённость удерживает внимание, а алкоголь временно включает unsafe. Меня зовут Артур Валиев, я разрабатываю EVRT и EVRTCK. В программировании я привык мыслить состояниями, событиями, ограничениями и переходами между ними. Но однажды возникает вопрос: можно ли тем же способом посмотреть на человеческие отношения?Не свести любовь к формуле и не написать библиотеку perfect_relationship
Почему языковые модели «галлюцинируют»
Команда AI for Devs подготовила перевод статьи OpenAI о природе галлюцинаций языковых моделей. Почему модели уверенно «выдумывают» факты, как это связано с предсказанием следующего слова и почему традиционные метрики только усиливают проблему?В OpenAI мы активно работаем над тем, чтобы сделать ИИ-системы полезнее и надёжнее. Но даже по мере роста их возможностей остаётся одна упрямая проблема: галлюцинации. Под этим мы понимаем случаи, когда модель уверенно выдаёт ответ, который на самом деле неверен. В нашей новой
