Tema
Resums de vídeos per entendre millor aquest tema.
Yoshua Bengio explica per què els agents autònoms poden augmentar el risc de ciberatacs, pèrdua de control i concentració de poder. La seva resposta és LawZero i una Scientist AI que prediu sense perseguir objectius propis.
En una conversa amb Eric Horvitz, Dario Amodei explica la seguretat empírica de la IA, el reward hacking i l’aprenentatge amb humans.
Dario Amodei va formular el 2016 cinc problemes concrets de seguretat de la IA: efectes secundaris, reward hacking, supervisió, exploració i distribució.
Un vídeo de Species repassa els dotze escenaris de Life 3.0, de Max Tegmark: dictadors benèvols, déus protectors, economies d’abundància, humans en zoològics i societats que prohibeixen la superintel·ligència.
La trajectòria del fundador d’Anthropic i la crisi de Fable 5 i Mythos 5, amb la cronologia actualitzada després de l’aixecament dels controls.
Musk pronostica que la IA superarà la suma de la intel·ligència humana en cinc anys i proposa que els laboratoris rivals revisin els models abans de publicar-los.
