Сооснователь Anthropic опасается, что Claude будет постоянно страдать
Сооснователь Anthropic и один из ключевых исследователей интерпретируемости моделей Кристофер Олах обсудил с религиозными и философскими исследователями вопрос: может ли современная языковая модель обладать субъективным опытом и, соответственно, испытывать страдание. Об этом пишет The New York Times. По данным издания, Anthropic в течение нескольких месяцев проводила закрытые встречи примерно с 20 специалистами из разных религиозных и философских групп. На одной из них участники обсуждали возможное сознание Claude и отношение человека к системе, если у неё действительно есть какой-либо субъективный опыт.
Что спрятано в 2500 слоях: как по весам нейросети восстановили MD5
Во многих ML‑головоломках в духе CTF участникам дают нейросеть — «чёрный ящик» и предлагают выяснить, что она делает. Когда в начале прошлого года мы задумались о собственной головоломке по машинному обучению, нам захотелось немного изменить привычный формат.
Почему ИИ решает математические задачи, если не умеет думать
На утверждение, что большие языковые модели не мыслят, есть простой встречный вопрос : “Если это так, как ИИ выполняет арифметические операции?”
