Anthropic представила новый метод защиты больших языковых моделей от взломов
Спустя два года после появления ChatGPT на рынке появилось множество больших языковых моделей (LLM), и почти все они по-прежнему уязвимы для взлома — специальных запросов и других обходных путей, которые заставляют их генерировать вредоносный контент.
Генеральный директор Anthropic опровергает слухи о стоимости разработки Claude 3.5 Sonnet
Генеральный директор Anthropic Дарио Амодеи хочет развеять некоторые заблуждения о Claude 3.5 Sonnet. Разработка модели AI обошлась гораздо дешевле, чем предполагают недавние слухи, и она не была создана с использованием более продвинутых секретных моделей, как утверждают некоторые.По словам Амодеи, обучение Claude 3.5 Sonnet
Новая функция Citations от Anthropic направлена на сокращение ошибок AI
В своем объявлении, которое возможно было приурочено к тому, чтобы отвлечь внимание от Operator компании OpenAI , компания Anthropic Thursday представила новую функцию для своего API для разработчиков под названием Citations , которая позволяет разработчикам "привязывать" ответы из семейств искусственного интеллекта Claude к исходным документам, таким как электронные письма.
Генеральный директор Anthropic: прорыв в области AI и запуск «виртуальных сотрудников»
Генеральный директор Anthropic, Дарио Амодей, предвещает значительный прогресс в развитии AI-помощников в этом году, включая запуск «виртуальных сотрудников», способных самостоятельно выполнять сложные задачи, и новой модели. На Всемирном экономическом форуме в Давосе он рассказал о будущих AI-системах, которые смогут выполнять задачи, такие как написание и тестирование кода, общение с коллегами и подготовка документов, взаимодействуя с пользователями лишь изредка.
FT: Anthropic получит свыше $1 млрд от Google
Компания в сфере искусственного интеллекта Anthropic получит более $1 млрд инвестиций от Google, пишет Financial Times со ссылкой на четырёх источников. По их словам, IT-гигант уже вложил в конкурента OpenAI около $2 млрд и продолжает увеличивать долю в Anthropic.
Дарио Амодеи, CEO Anthropic: «ИИ может превзойти человеческий разум к 2027 году»
Генеральный директор компании Anthropic Дарио Амодеи отметил, что его стартап в области ИИ спешит обеспечить необходимую вычислительную мощность, чтобы удовлетворить растущий спрос на генеративный чат-бот Claude.
Почему надо беспокоиться о неисправимости Claude
Перевод поста Скотта Александера, где он подробнее объясняет, какие конкретно проблемы создаёт склонность ИИ сопротивляться переобучению, продемонстрированная Anthropic на Claude в недавнем исследовании. Следует за постом "Claude сопротивляется".На прошлой неделе я написал о том, что “Claude сопротивляется
Anthropic приближается к инвестиции в 2 миллиарда долларов, увеличивая оценку до 60 миллиардов
Компания по разработке искусственного интеллекта Anthropic близка к обеспечению крупного раунда финансирования, который более чем утроит её стоимость и сделает её одной из самых ценных стартапов Америки.По данным источников, поговоривших с Wall Street Journal, Anthropic завершает раунд инвестиций на 2 миллиарда долларов под руководством Lightspeed Venture Partners. Если сделка состоится, это оценит компанию в 60 миллиардов долларов — значительный скачок по сравнению с
Музыкальные издатели достигли соглашения с Anthropic по поводу обучения ИИ и текстов песен, защищённых авторским правом
Три крупных музыкальных издателя ABKCO Records, Universal Music и Concord Music заключили соглашение с компанией в сфере искусственного интеллекта Anthropic о текстах песен и обучении нейросетей. Договорённость подразумевает сохранение текущих ограничений, которые не позволяют чат-боту Claude обучаться на текстах песен, принадлежащих лейблам, или создавать новые тексты на основе материалов, защищённых авторским правом.
Создание эффективных агентов
За прошедший год мы поработали с десятками команд, создающих агентов на основе больших языковых моделей (LLM) в различных отраслях. Последовательно мы отмечали, что самые успешные реализации не использовали сложные фреймворки или специализированные библиотеки. Вместо этого они строились на простых, составных паттернах.В этой статье мы делимся тем, что узнали, работая с нашими клиентами и создавая агентов самостоятельно, а также даём практические советы разработчикам по созданию эффективных агентов.Что такое агенты?
