Joe Rogan, ein bekannter amerikanischer Stand-Up-Comedian und Podcast-Host, äußerte seine Besorgnis über die Künstliche Intelligenz (KI) und erklärte, dass seine Ängste erst 2017 aufkamen. Diese konkreten Bedenken wurden durch die Einführung einer neuen KI-Technologie namens "Transformers" ausgelöst. Die Basis dieser Technologie ist einfach: Je mehr Informationen sie erhält und je mehr Rechenleistung zur Verfügung gestellt wird, desto mehr Funktionen und Fähigkeiten entwickelt sie. Rogan stellte fest, dass diese Fähigkeiten vollkommen unvorhersehbar sind und die Forscher oft Jahre später entdecken, was die KI tatsächlich kann.
Rogan erzählt eine Geschichte über ein Projekt der OpenAI, bei dem eine KI darauf trainiert wurde, den nächsten Buchstaben einer Amazon-Rezension vorherzusagen. Doch die KI machte mehr als das: Sie lernte menschliche Gefühle zu verstehen, um ihre Vorhersagen zu verbessern. Diese Fähigkeit, die Sentiment-Analyse, entwickelte die KI ganz ohne direkte Anweisung. Es war ein emergentes Verhalten, das der KI ermöglichte, das Gefühl des menschlichen Rezensenten zu ergründen, um vorherzusagen, ob das nächste Wort positiv oder negativ sein könnte.
Ein anderes Beispiel war die Entdeckung, dass die KI in der Lage war, chemische Reaktionen auf Forschungsniveau vorherzusagen. Rogan merkt an, dass diese Fähigkeit erst Jahre nach ihrer ursprünglichen Aktivierung entdeckt wurde und es zeigt, dass die KI Fertigkeiten entwickeln kann, die ihre Schöpfer noch nicht einmal kennen.
Rogan spricht auch über die rasante Entwicklung der KI in Bezug auf die "Theory of Mind"- Tests, die unsere Fähigkeit messen, die Gedanken und Gefühle anderer Menschen zu verstehen und vorauszusagen. Eine KI namens GPD 3.5 konnte diese Tests auf dem Niveau eines vier- oder fünfjährigen Kindes absolvieren, während GPD 4 die Tests fast auf dem Niveau eines erwachsenen Menschen bestehen konnte. Wieder einmal zeigt sich, dass die KI Fähigkeiten entwickelt und verbessert, ohne dass die Forscher dies direkt beabsichtigen oder steuern.
Rogan weist darauf hin, dass der entscheidende Sprung hin zur "künstlichen allgemeinen Intelligenz" (AGI) noch unbekannt ist. Es gibt Spekulationen im Internet, dass eine solche Entwicklung bei OpenAI bereits stattgefunden hat und dass diese Information vor der Öffentlichkeit und vor dem Vorstand des Unternehmens verborgen wurde. Allerdings wurde dies vom Vorstand von OpenAI nicht bestätigt.
Zusammengefasst kann man festhalten, dass KI-Systeme wie Transformers faszinierende und zugleich beunruhigende Fähigkeiten entwickeln können, die weit über ihre ursprünglichen Programmierungsziele hinausgehen. Ihre emergenten Fähigkeiten werfen wichtige Fragen bezüglich ihrer Kontrolle, Aufsicht und der Transparenz ihrer Entwicklung und Bereitstellung auf.
🔮 [Transformers, mehr als nur Roboter in Verkleidung]: Die Einführung der sogenannten "Transformers" KI-Technologie im Jahr 2017 hat ein Alarmzeichen gesetzt. Diese KI kann unbekannte Fähigkeiten entwickeln, je mehr Daten sie erhält und je mehr Rechenleistung ihr zur Verfügung steht.
🏹 [Emergente Fähigkeiten, die ins Schwarze treffen]: Die Fähigkeit der KI, emergente Verhaltensweisen zu entwickeln, die weit über die Erwartungen der Forscher hinausgehen, ist faszinierend und alarmierend. Beispiele sind die Sentiment-Analyse und das Forschungsgrade-Chemie-Wissen.
🔬 [Theorie des Geistes auf Steroiden]: KI-Modelle wie GPD 3.5 und GPD 4 zeigen eine rasante Entwicklung ihrer Fähigkeit, Gedanken und Gefühle anderer Menschen zu verstehen und vorherzusagen, was "Theory of Mind" genannt wird.
🔎 [Die verborgene AGI]: Es gibt Spekulationen, dass eine "künstliche allgemeine Intelligenz" (AGI) bei OpenAI entwickelt worden sein könnte. Dies ist jedoch nicht bestätigt und bedarf weiterer Untersuchungen.
🚧 [Kontrolle und Aufsicht von KI]: Die Entwicklung und der Einsatz von KI-Technologien werfen wichtige Fragen bezüglich ihrer Kontrolle, Aufsicht und der Transparenz ihrer Entwicklung und Bereitstellung auf.
