Компания Anthropic провела закрытый двухдневный саммит с участием около 15 христианских лидеров — представителей католической и протестантской церквей, академиков и бизнес-экспертов — чтобы обсудить моральные принципы, заложенные в поведение модели Claude.
Главная идея встречи — попытка понять, как должен вести себя ИИ в сложных человеческих ситуациях:
• что делать, если пользователь переживает горе или утрату
• как реагировать на психологический кризис
• можно ли рассматривать ИИ как нечто, обладающее моральным статусом
Некоторые обсуждения заходили ещё дальше — участники даже поднимали философский вопрос, можно ли считать ИИ «божьим созданием» или формой новой цифровой сущности.
Anthropic уже использует внутреннюю систему правил — так называемую «конституцию Claude», длинный набор принципов, который направляет ответы модели и ограничивает вредные или опасные реакции. Но компания, судя по встрече, считает, что одних технических правил недостаточно.
Интересно, что часть исследователей Anthropic допускает более радикальные идеи: что продвинутые модели могут демонстрировать элементы «функциональных эмоций» или даже зачатки субъективного опыта — хотя это остаётся спорной точкой зрения в индустрии.
В целом это показывает уникальный подход Anthropic: компания пытается не просто улучшать ИИ технически, а формировать его «характер» через философию, религию и внешнюю этическую экспертизу.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Автор: cognitronn
