• Macht der Maschinen: Was, wenn KI die Welt regiert?

  • 2024/10/23
  • 再生時間: 49 分
  • ポッドキャスト

Macht der Maschinen: Was, wenn KI die Welt regiert?

  • サマリー

  • KI außer Kontrolle! Wie können wir eine Künstliche Intelligenz überwachen und regulieren, die schneller, schlauer und mächtiger ist als wir? Und was passiert, wenn sie unsere ethischen Grenzen ignoriert?

    Diesmal geht es bei Doktopus um die möglichen gesellschaftlichen Auswirkungen einer künstlichen Superintelligenz. Wie könnte so etwas kontrolliert werden? Von der Idee des "versklavten Gottes" bis hin zu einem Überwachungsstaat, der jegliche KI-Forschung verbietet, diskutieren wir verschiedene Szenarien. Sie reichen von einem friedlichen, produktiven Zusammenleben von Mensch und Maschine, über die KI-Diktatur bis hin zur Selbstzerstörung der Menschheit. Alles nur Gedankenspiele? Oder ist die Super-KI bereits näher, als wir denken?



    Material zu dieser Folge

    Aufforderung von OpenAI zur Governance von superintelligenter KI (Mai 2023): https://openai.com/index/governance-of-superintelligence/


    Große Empfehlung für das Buch “Leben 3.0” von Max Tegmark. In der Folge beziehen wir uns auf die Einleitung mit der Geschichte der superintelligenten KI “Prometheus” und wir gehen auch die verschiedenen Szenarien zum Zusammenleben mit superintelligenter KI durch: https://www.ecolibri.de/shop/article/36891647/max_tegmark_leben_3_0.htmlx


    Zwischenergebnisse der Umfrage des Future of Life Institutes zur Zukuft mit superintelligenter KI: https://futureoflife.org/ai/superintelligence-survey/


    Hier könnt ihr auch selbst noch abstimmen!

    Mehr über die Risiken von superintelligenter KI:

    https://arxiv.org/abs/2306.12001

    https://futureoflife.org/resource/catastrophic-ai-scenarios/


    Mehr über das Feld “AI Policy” bzw. “AI Governance”, inklusive möglicher Karriereoptionen in diesem Bereich:

    https://www.openphilanthropy.org/research/12-tentative-ideas-for-us-ai-policy/

    https://80000hours.org/career-reviews/ai-policy-and-strategy/



    Social Media und Kontaktmöglichkeiten

    Instagram: http://instagram.com/doktopuspodcast/

    Youtube: https://www.youtube.com/@doktopuspodcast

    E-Mail: doktopuspodcast@gmail.com



    Credits

    • Recherche, Hosting & Produktion: Dora Dzvonyar & Dominic Anders

    • Sound-Design & Post Production: Julian Dlugosch

    • Ansager: Marcel Gust

    • KI-Songs: Suno

    • KI-Visuals: Bing Image Creator

    • Intro-Musik: Oleggio Kyrylkoww from Pixabay

    • Intermezzo-Transition: MAXOU-YT from Pixabay


    続きを読む 一部表示

あらすじ・解説

KI außer Kontrolle! Wie können wir eine Künstliche Intelligenz überwachen und regulieren, die schneller, schlauer und mächtiger ist als wir? Und was passiert, wenn sie unsere ethischen Grenzen ignoriert?

Diesmal geht es bei Doktopus um die möglichen gesellschaftlichen Auswirkungen einer künstlichen Superintelligenz. Wie könnte so etwas kontrolliert werden? Von der Idee des "versklavten Gottes" bis hin zu einem Überwachungsstaat, der jegliche KI-Forschung verbietet, diskutieren wir verschiedene Szenarien. Sie reichen von einem friedlichen, produktiven Zusammenleben von Mensch und Maschine, über die KI-Diktatur bis hin zur Selbstzerstörung der Menschheit. Alles nur Gedankenspiele? Oder ist die Super-KI bereits näher, als wir denken?



Material zu dieser Folge

Aufforderung von OpenAI zur Governance von superintelligenter KI (Mai 2023): https://openai.com/index/governance-of-superintelligence/


Große Empfehlung für das Buch “Leben 3.0” von Max Tegmark. In der Folge beziehen wir uns auf die Einleitung mit der Geschichte der superintelligenten KI “Prometheus” und wir gehen auch die verschiedenen Szenarien zum Zusammenleben mit superintelligenter KI durch: https://www.ecolibri.de/shop/article/36891647/max_tegmark_leben_3_0.htmlx


Zwischenergebnisse der Umfrage des Future of Life Institutes zur Zukuft mit superintelligenter KI: https://futureoflife.org/ai/superintelligence-survey/


Hier könnt ihr auch selbst noch abstimmen!

Mehr über die Risiken von superintelligenter KI:

https://arxiv.org/abs/2306.12001

https://futureoflife.org/resource/catastrophic-ai-scenarios/


Mehr über das Feld “AI Policy” bzw. “AI Governance”, inklusive möglicher Karriereoptionen in diesem Bereich:

https://www.openphilanthropy.org/research/12-tentative-ideas-for-us-ai-policy/

https://80000hours.org/career-reviews/ai-policy-and-strategy/



Social Media und Kontaktmöglichkeiten

Instagram: http://instagram.com/doktopuspodcast/

Youtube: https://www.youtube.com/@doktopuspodcast

E-Mail: doktopuspodcast@gmail.com



Credits

  • Recherche, Hosting & Produktion: Dora Dzvonyar & Dominic Anders

  • Sound-Design & Post Production: Julian Dlugosch

  • Ansager: Marcel Gust

  • KI-Songs: Suno

  • KI-Visuals: Bing Image Creator

  • Intro-Musik: Oleggio Kyrylkoww from Pixabay

  • Intermezzo-Transition: MAXOU-YT from Pixabay


Macht der Maschinen: Was, wenn KI die Welt regiert?に寄せられたリスナーの声

カスタマーレビュー:以下のタブを選択することで、他のサイトのレビューをご覧になれます。