Ochranné mantinely pro božskou AI: Strategie superzarovnání pro zajištění budoucnosti AGI
Pozadí: AGI a problém sladění Umělá obecná inteligence (AGI) je definována jako AI s širokými, lidsky ekvivalentními kognitivními schopnostmi napříč mnoha oblastmi – systém, který se může učit nebo chápat jakýkoli intelektuální úkol, který zvládne člověk arxiv.org. Pokud by byla dosažena, AGI
