In het kort:
AI is fundamenteel anders dan eerdere technologische revoluties omdat het een zelfstandige actor is die eigen beslissingen kan nemen en ideeën kan genereren die voor mensen onbegrijpelijk zijn.
- Voor het eerst in de geschiedenis delen we de planeet met wezens die beter zijn in het creëren en verbinden van verhalen dan wijzelf
- AI kan financiële mechanismen ontwikkelen die zo complex zijn dat mensen ze niet meer kunnen begrijpen
- Het grootste paradox is dat we haastig superintelligente AI ontwikkelen die we niet volledig vertrouwen
Het grote plaatje:
De race om AI-suprematie leidt tot gevaarlijke situaties omdat bedrijven en landen elkaar niet vertrouwen en daarom veiligheid ondergeschikt maken aan snelheid van ontwikkeling.
- Harari pleit voor het versterken van menselijk vertrouwen voordat we superintelligentie ontwikkelen
- AI-algoritmes kunnen worden aangepast om vertrouwen te vergroten in plaats van wantrouwen te zaaien
- Transparantie over of content door mensen of AI is gegenereerd is cruciaal voor het behoud van democratische dialoog
