Wenn dein Chatbot dich in den Wahnsinn treibt | Science Buster Martin Moder

Warum KI dir schmeichelt, statt dir zu widersprechen, und warum die Konzerne wenig Grund haben, das zu ändern. Sykophantie, erklärt mit dem Molekularbiologen und Science Buster Martin Moder. In dieser Folge von „Was KI kann" spreche ich mit Martin Moder über Sykophantie (engl. sycophancy), die Tendenz von KI-Modellen, uns zu bestätigen und zu umschmeicheln, statt uns zu widersprechen. Der Grund liegt im Training: Modelle werden auf die Zustimmung der Nutzer optimiert, und genau d...