-
サマリー
あらすじ・解説
Le macchine possono sviluppare una dipendenza? In questa puntata di Zenit, esploriamo il fenomeno del wireheading, il pericolo che le IA, progettate per massimizzare obiettivi specifici, scoprano scorciatoie per ottenere piacere infinito, bypassando le loro funzioni originali.
Dal famoso esperimento sui ratti di James Olds e Peter Milner, fino agli scenari reali in cui un’IA manipola i propri obiettivi, analizziamo i rischi di un'intelligenza artificiale fuori controllo e il paradosso del controllo umano. Cosa succede quando una macchina impara a “barare”?
Per approfondire:
Mangrovia è un progetto di SCG srl., a cura di Sineglossa, finanziato dall’ Unione europea - NextGenerationEU nell’ambito del Piano Nazionale di Ripresa e Resilienza Missione 1 – Digitalizzazione, innovazione, competitività e cultura, Componente 3 – Turismo e Cultura 4.0 (M1C3), Misura 3 “Industria culturale e creativa 4.0”, promossa dal Ministero della Cultura (Direzione Generale Creatività Contemporanea)
Dal famoso esperimento sui ratti di James Olds e Peter Milner, fino agli scenari reali in cui un’IA manipola i propri obiettivi, analizziamo i rischi di un'intelligenza artificiale fuori controllo e il paradosso del controllo umano. Cosa succede quando una macchina impara a “barare”?
Per approfondire:
- Drugs, robots and the pursuit of pleasure – why experts are worried about AIs becoming addicts
- Pleasure Centers in the Brain
- Faulty reward functions in the wild
Mangrovia è un progetto di SCG srl., a cura di Sineglossa, finanziato dall’ Unione europea - NextGenerationEU nell’ambito del Piano Nazionale di Ripresa e Resilienza Missione 1 – Digitalizzazione, innovazione, competitività e cultura, Componente 3 – Turismo e Cultura 4.0 (M1C3), Misura 3 “Industria culturale e creativa 4.0”, promossa dal Ministero della Cultura (Direzione Generale Creatività Contemporanea)