Anthropic обсуждает мораль и религию для Claude с христианскими лидерами

Компания Anthropic провела закрытый двухдневный саммит с участием около 15 христианских лидеров — представителей католической и протестантской церквей, академиков и бизнес-экспертов — чтобы обсудить моральные принципы, заложенные в поведение ^[1] модели Claude.

Главная идея встречи — попытка понять, как должен вести себя ИИ в сложных человеческих ситуациях:

• что делать, если пользователь переживает горе или утрату

• как реагировать ^[2] на психологический кризис

• можно ли рассматривать ИИ как нечто, обладающее моральным статусом

Некоторые обсуждения заходили ещё дальше — участники даже поднимали философский вопрос, можно ли считать ИИ «божьим созданием» или формой новой цифровой сущности.

Anthropic уже использует внутреннюю систему правил — так называемую «конституцию Claude», длинный набор принципов, который направляет ответы модели и ограничивает вредные или опасные реакции. Но компания, судя по встрече, считает, что одних технических правил недостаточно.

Интересно, что часть исследователей Anthropic допускает более радикальные идеи: что продвинутые модели могут демонстрировать элементы «функциональных эмоций» или даже зачатки субъективного опыта ^[3] — хотя это остаётся спорной точкой зрения ^[4] в индустрии.

В целом это показывает уникальный подход Anthropic: компания пытается не просто улучшать ИИ технически, а формировать его «характер» через философию, религию и внешнюю этическую экспертизу.

Делегируйте часть рутинных задач вместе с BotHub! ^[5] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[6] вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

Источник ^[7]