ai alignment.

Будущее, в котором ИИ — герой, а не злодей

Эра искусственного интеллекта уже наступила — и люди, мягко говоря, в панике.К счастью, я здесь, чтобы рассказать хорошие новости: AI не уничтожит мир, а наоборот, вполне может его спасти.Для начала короткое описание того, что такое AI

продолжить чтение

Нужна ли агентам ИИ «этика в весах»?

Я не специалист ни в этике, ни в выравнивании — это размышления «из зала» о том, где в архитектуре ИИ должна жить этика. Возможно, кому‑то будет интересен альтернативный взгляд.1. Аналогия: пуля и промпт

продолжить чтение

История развития философской мысли AI Safety

Ранние представления об искусственном разуме и «восстании машин»Еще в XIX веке появились первые предупреждающие идеи о том, что машины могут однажды превзойти человека. В 1863 году писатель Самюэл Батлер опубликовал эссе «Дарвин среди машин

продолжить чтение

Rambler's Top100