Tema

reward hacking

Resums de vídeos per entendre millor aquest tema.

Seguretat de la IA 27 de jul. 2026

Dario Amodei el 2016: cinc problemes concrets de seguretat IA

Dario Amodei va formular el 2016 cinc problemes concrets de seguretat de la IA: efectes secundaris, reward hacking, supervisió, exploració i distribució.

Carnegie Mellon Software and Societal Systems Dept 6 min de lectura