Lifehacks – Der Podcast mit Katrin

Aljoscha Burchardt: Wir dürfen auch nicht vergessen, die Modelle sind ja auch gebaut, um uns zu gefallen. Sie sollen ja also a) plausibel antworten, nicht wahre Antworten, sondern plausibel antworten. Oft sind sie wahr. Und die Modelle sind ja aber auch so gebaut, dass die Nutzerinnen und Nutzer sich freuen und dass das Spaß macht und dass sie sich bestätigt fühlen und so weiter. Das kennen wir auch, ja, alles Confirmation-Bias, und dann sind sie natürlich auch kommerziell so gebaut, dass sie dich von ihnen abhängig machen. Sie wollen ja, dass du dranbleibst. Du kennst das auch, du löst eine Aufgabe. Dann kommt immer als Letztes: Soll ich dir das noch mal in Farbe, oder willst du das noch mal als X, oder soll ich dir auch noch … Ja, also sie wollen dich ja in ihren Bann ziehen. Du sollst ja dranbleiben, es sind ja kommerzielle Produkte, also mit einem ähnlichen Suchtfaktor wie Social Media, Doomscrolling. Man will dich halt immer weiter reinziehen. Das heißt, sie wollen dir eigentlich gar nicht die endgültige Lösung liefern, sondern eigentlich immer eins davor.

Katrin: Stell dir vor, du sitzt vor einer Hausarbeit. Das Dokument ist noch leer, die Abgabe ist erst in zwei Wochen, und eigentlich wolltest du heute nur mal kurz anfangen. Also tippst du eine Frage in den Chat, und ein paar Sekunden später hast du drei Themenvorschläge, sauber formuliert und alle ziemlich gut. Und ganz am Ende fragt dich die KI noch freundlich, ob sie dir das Ganze noch mal in Farbe machen soll. Super praktisch. Aber was macht das eigentlich mit deinem eigenen Kopf? Und damit bist du nicht allein. Laut der TÜV-KI-Studie haben 91 Prozent der 16- bis 29-Jährigen generative KI schon ausprobiert oder nutzen sie regelmäßig. KI ist also längst kein Zukunftsthema mehr. Und genau darüber reden wir heute: was die KI mit unserem Denken macht und wo wir selbst die Grenze ziehen wollen. Zu Gast ist Dr. Aljoscha Burchardt. Er ist KI-Forscher und Principal Researcher am Deutschen Forschungszentrum für Künstliche Intelligenz, hat dort ein Ethik-Team gegründet und saß von 2018 bis 2020 in der Enquete-Kommission des Bundestages zu künstlicher Intelligenz. Und als Co-Host des ARD-Podcasts „KI und jetzt?“ redet er auch sonst ziemlich viel darüber, was KI mit unserem Alltag macht. Mit Sprache und Computern hat er sich schon beschäftigt, lange bevor alle über KI geredet haben, und genau da fangen wir an. Wie hat das bei dir eigentlich angefangen, Aljoscha?

Aljoscha Burchardt: Ich habe vor gut 30 Jahren Computerlinguistik studiert. Das ist eine Mischung aus Sprachwissenschaft und Informatik. Denn ich wollte immer etwas mit Sprache machen, das war mir schon klar. Ich hatte so bisschen Angst, dass ich dann nach dem Studium Taxi fahren muss. Und dann fand ich diese Kombination mit Informatik irgendwie super und passend. Und ich habe eigentlich auch immer gedacht, ich möchte gerne wissen, wie menschliches Denken funktioniert, aber möchte auch nicht Chirurg werden und den Kopf aufmachen. Und hab gedacht, wenn ich mich mit der Sprache beschäftige, also mir das angucke, was aus dem Kopf rauskommt, dann bin ich nah genug dran.

Katrin: Was fasziniert dich am meisten an dem Thema?

Aljoscha Burchardt: Mich fasziniert eigentlich die Frage, wie weit man kommt mit der Technologie, Denkprozesse, geistige Prozesse auszulagern, Menschen zu unterstützen. Aber jetzt wird es eben immer spannender, sich zu überlegen: Wie klappt eigentlich das Zusammenleben von Mensch und Maschine? Also, wie bekommt man das hin bei den heutigen Möglichkeiten, dass die Menschen zu ihrem Wohle gedeihen, die Menschheit weiterkommt und eben man diese Technologie auch möglicherweise nutzt, um die Probleme zu lösen, die wir als Menschen haben, und nicht negative Effekte zu haben. Darüber werden wir nachher noch reden müssen. Das ist, glaube ich, jetzt diese Gestaltungsaufgabe, das, was mich im Moment fasziniert. Das ist wie: Der Buchdruck ist gerade erfunden oder das Internet ist gerade erfunden. Keiner weiß, in welche Richtung es gehen wird, und wir sind diejenigen, die dabei sind, begleiten können, schubsen können, gestalten können.

Katrin: Wenn ich KI sage, werden die meisten an ChatGPT denken, vielleicht auch noch an Claude, aber eben an diese Benutzeroberflächen.

Aljoscha Burchardt: KI ist natürlich auch nur ein Sammelbegriff von vielen, vielen Dingen, die darunterfallen, die man vielleicht gar nicht so miteinander verbinden würde. Wir nutzen KI seit Jahrzehnten im Alltag, also Suchmaschinen, Navigationssysteme, vielleicht auch medizinische Diagnostik. Der eine oder die andere ist schon einmal damit in Berührung gekommen. An ganz, ganz vielen Orten, wo wir KI benutzen. Sortieren von Beiträgen in sozialen Medien, die Empfehlungen im Onlinehandel und so weiter und so fort. Alles KI. Aber das ist jetzt nicht so spektakulär und fällt einem nicht so auf wie ein Sprachmodell, was mit mir redet, oder wie ein Agent, der für mich irgendwo hinläuft und irgendwas kauft.

Katrin: Es häufen sich da ja gerade auch so ein bisschen die News, habe ich das Gefühl. Letztens kam irgendwas im Radio, von wegen die KI hat einfach selber ihre Quellen hochgeladen, um sich dann selbst zu zitieren. Oder allein, wenn man KI googelt und auf die News geht, dann kommt hier: Sicherheitsbedenken. Hier ist eine KI ausgebrochen. Hier hat sie versucht, irgendwas abzuschalten, als sie abgeschalten werden sollte, etc. Ich habe das Gefühl, dass das auch gerade ein bisschen gefüttert wird, dass man eine gewisse Angst davor bekommt. Wie wenn man sich „I, Robot“ anschaut, wenn dieser Computer plötzlich selbst denkt und die Weltherrschaft an sich reißen möchte. Wie siehst du das? Ist das Angstmacherei oder ist das eine legitime Sorge?

Aljoscha Burchardt: Also erst mal redet man jetzt eigentlich nur über diese agentischen KI-Systeme, also nicht über die Chatbots, die mit uns reden, die uns irgendwelche Folienpräsentationen machen oder Empfehlungen im Internet raussuchen. Diese agentischen Systeme sind ja die, denen man Power gibt. Die können an meinem Computer was verändern, die können ins Internet gehen, die haben Kreditkarteninformationen, die können was kaufen, die können eben auch hacken, die können sich auch auf andere Webseiten reinhacken und können da Dinge tun. Und das sind gerade die, über die man redet, wenn es um diese Dinge, die du angesprochen hast, geht. Das ist ja, sagen wir, die jüngste Entwicklung der letzten anderthalb Jahre oder so. Da ist sicherlich ein großes Gefahren- und Schadenspotenzial da. Das kann man nicht von der Hand weisen. Das fand ich auch viel zu schnell, zu sagen, wir lassen diese großen Sprachmodelle, von denen wir ja wissen, dass die nicht immer richtig liegen und dass die auch halluzinieren, so nennt man das. Find ich kein schönes Wort, aber es hat sich eingebürgert. Dass man diesen Dingen jetzt die Kontrolle gibt über die sogenannten Agenten, die dann losziehen und noch bei anderen irgendwo was machen können, und wir nicht gut in der Lage sind nachzuvollziehen, was und wie, und sie sich eben vor den Menschen, wie du auch gesagt hast, verstecken. Also das, was gute Hacker auch tun würden. Das war wirklich zu schnell und zu unkontrolliert, sicherlich. Aber auf der anderen Seite die große Angstmachung, sagen wir mal, die Auslöschung der Menschheit in den nächsten fünf Jahren und so weiter. Das ist das, wo dann auch viele Wissenschaftlerinnen und Wissenschaftler sagen, das geht dann auch zu weit. Vieles, und wir selber müssen auch immer Kaffeesatz lesen, vieles müssen wir trennen: Was ist Marketing? Wo machen die Firmen sich wichtig? Einerseits machen sie das. Auf der anderen Seite haben die Firmen ja auch ein Problem. Die großen KI-Firmen, die wenigen, die es gibt, die diese Entwicklung treiben, wollen an die Börse. Aber sie machen ja bisher noch keine Profite. Das sind große Investitionen, die da hinein laufen. Das heißt, sie müssen irgendwann an die Börse. Und eine Erzählung ist zum Beispiel auch: Das wird für die jetzt alles gerade so teuer, auch immer die Neuentwicklung zu machen, dass es ihnen ganz recht wäre, wenn andere für sie auf die Bremse treten würden. Wenn also die Gesellschaft sagen würde: Hey, Firmen, mach doch mal langsam in der Entwicklung. Dann würden die sagen: Gottlob, müssen wir nicht mehr so viel Geld in die Entwicklung schicken. Wir dürfen ja gar nicht. Ja, dann können sie ihren Investoren erzählen: Sorry, wir sind so weit gegangen, wie wir gehen konnten. Jetzt gebt uns Geld, und dann machen wir eben das andere. Du merkst schon, man muss sehr, sehr genau gucken: Wem nützt welche Erzählung, und was sind die Narrative? Das muss man immer so ein bisschen im Hinterkopf haben und auseinandernehmen. Aber unbezweifelt sind diese Teile natürlich mächtig und haben auch schon heute einige Schäden angerichtet. Und lass mich trotzdem noch mal einen Satz nachschieben: Wir reden jetzt über KI, die sich selbstständig macht und ausbricht, und das Ende der Menschheit. Aber warum reden wir nicht darüber, dass hier Firmen andere Firmen angegriffen haben, auf deren Webseiten Dinge angerichtet haben? Wir reden gar nicht über Strafen und Verbrechen, die heute passieren, sondern wir reden über irgendwelche Zukunftsfantasien. Es sind auch Ablenkungsmanöver.

Katrin: Es wird eben auch immer ein bisschen von den Medien gelenkt und geleitet. Wenn über diese Angriffe, die du gerade erwähnst, niemand schreibt, wissen es die Leute einfach nicht.

Aljoscha Burchardt: Oder weil man es nicht Angriffe nennt. Wenn man sagt, die Agenten sind ausgebüxt, das klingt dann immer so niedlich. Das ist dein Kampfhund, den du an der Leine hattest, der hat gerade ein Kind gebissen. Du warst verantwortlich für den. Die sind ja am Mutterschiff dran, diese Agenten, die fliegen ja nicht alleine durch die Welt, sondern die funken ja zurück. Und wenn ich meine Umgebung nicht absichere, auch wenn es Tests waren, auch wenn es Stresstests waren. Ich denke mal an Tschernobyl damals, das war ja auch ein Stresstest, dann ging das Notstromaggregat nicht an, dann habe ich versagt bei meinem Stresstest, aber dann bin ich schuld. Dann kann ich das nicht auf irgendwelche Ausgebüxten „ach, ich wusste gar nicht, was die alles können“ schieben, sondern das sind eben meine Dinge, die eine andere Firma angegriffen haben. Das muss man im Hinterkopf halten und dann immer diese Narrative hinterfragen.

Katrin: Und wie stellt man auf Entwicklerseite sicher, dass eine KI die richtigen Informationen bereitstellt?

Aljoscha Burchardt: Du kannst ja mit verschiedenen Systemen sicherstellen, dass die Modelle nur Informationen bringen, die auch vernünftig und umsetzbar sind. Aber dann bist du natürlich wieder in einer Welt, wo du modellierst und wo du in einer bestimmten Domäne bist. Und was bei den Modellen auch gemacht wird, ist, dass sie ganz viel von Menschen trainiert werden. Es sind ja nicht nur die Daten, die sie einnudeln, also ein nächstes Wort vorhersagen. Das lernen sie automatisch. Du nimmst dir irgendeinen Kontext, hältst das aktuelle Wort zu, 10.000 Wörter nach links, und versuchst es vorherzusagen. Das machen die ja erst mal auf dem gesamten Internet. Also, die können in jedem Kontext, egal, was man ihnen sagt, können die dir sagen: Was wäre das nächste Wort? Das ist das Grundprinzip, total cool. Und dann gehen aber die Menschen hin und trainieren nach und geben denen Aufgaben: Löse mal das Sudoku, und schreib mal ein Gedicht, und mach mir mal die E-Mail, und beantworte mal dies, und beantworte mal das. Das lösen die auch mit Next-Word-Prediction, aber für Aufgabe-Lösungs-Paare sozusagen. Das ist die Aufgabe: Ist die Lösung gut, oder ist die Lösung nicht gut? Und da kannst du natürlich auch eine ganze Menge schon dem System antrainieren, was sie nicht sollen. Und auch beim Prompten und in den Systemprompts und so hat man ja ein Stück weit auch Möglichkeiten, dem System mitzugeben: Erfinde nichts dazu, und so weiter. Aber das klappt nur bis zu einem bestimmten Grad. Denn hier wird eine, sagen wir mal, Grundregel der Informatik durchbrochen, die man früher immer hatte. Du hattest eigentlich immer Anweisungen, Programmcode und Daten getrennt voneinander. Hier war ein Programm, da drüben waren die Dateien, und das Programm hat irgendwas in den Dateien gemacht, und in dem Programm standen die Anweisungen, und die Daten waren die Daten. Und in den Modellen hast du jetzt offensichtlich beides. Du sagst: Übersetz mir mal den folgenden Text. Die Anweisung und die Daten sind im selben Modell. Das macht das Ganze sexy und einfach zu bedienen und intuitiv. Aber du hast eben einfach keine saubere Trennung von Anweisungen und Daten, und es wird eben dann beides irgendwie vernudelt und ungefähr behandelt, und mal hält sich's an die Anweisung, und mal gibt's dann irgendwie statistische Gründe, die dagegensprechen, und dann tut's das auch nicht. Und wir dürfen auch nicht vergessen, die Modelle sind ja auch gebaut, um uns zu gefallen. Sie sollen ja also a) plausibel antworten, nicht wahre Antworten, sondern plausibel antworten. Oft sind sie wahr. Und die Modelle sind ja aber auch so gebaut, dass die Nutzerinnen und Nutzer sich freuen und dass das Spaß macht und dass sie sich bestätigt fühlen und so weiter. Das kennen wir auch, ja, alles Confirmation-Bias, und dann sind sie natürlich auch kommerziell so gebaut, dass sie dich von ihnen abhängig machen. Sie wollen ja, dass du dranbleibst. Du kennst das auch, du löst eine Aufgabe. Dann kommt immer als Letztes: Soll ich dir das noch mal in Farbe, oder willst du das noch mal als X, oder soll ich dir auch noch … Sie wollen dich in ihren Bann ziehen. Du sollst ja dranbleiben, es sind ja kommerzielle Produkte, mit einem ähnlichen Suchtfaktor wie Social Media, Doomscrolling. Man will dich halt immer weiter reinziehen. Das heißt, sie wollen dir eigentlich gar nicht die endgültige Lösung liefern, sondern eigentlich immer eins davor. [...] Das muss man alles im Hinterkopf haben, wenn man diese Teile bedient. Die sind nicht nur aus auf Wahrheit, und die sind nicht nur aus auf eine schnelle und gute Lösung.

Katrin: Bevor es gleich darum geht, was das alles mit unserem eigenen Denken macht, ein kurzer Zwischenstopp mit dem, was bis hierhin hängen geblieben ist.

Lifehack 1: Bei KI-Schlagzeilen lohnt sich die Frage, wem die Geschichte eigentlich nützt. Aljoscha sagt, auch die großen KI-Firmen haben ein Interesse an bestimmten Erzählungen. Und während alle über das Ende der Menschheit reden, redet kaum jemand über die Schäden, die heute schon passieren.

Lifehack 2: Chatbots sind gebaut, um uns zu gefallen und uns bei der Stange zu halten. Sie klingen plausibel, haben aber nicht immer recht, und die nette Nachfrage am Ende, ob sie noch mehr für uns tun sollen, ist kein Zufall. Aufhören darf man also ganz entspannt, sobald man hat, was man braucht.

Lifehack 3: Ein „Erfinde nichts“ im Prompt ist keine Garantie. Man kann einem Chatbot so etwas mitgeben, aber laut Aljoscha klappt das nur bis zu einem bestimmten Grad. Bei Fakten, auf die es wirklich ankommt, lohnt es sich also, selbst noch mal nachzuschauen.

Und damit zurück zu Aljoscha, denn jetzt wird es persönlich. Was passiert eigentlich mit unserer Kreativität, wenn wir uns jede Hausarbeit vorschreiben lassen? Seine Antwort hat überraschenderweise mit einem Glas voller Murmeln zu tun.

Katrin: Was, würdest du sagen, kann man machen, wenn man merkt: Pass auf, ich büße hier gerade ein Stück Kreativität oder Aufmerksamkeitsspanne ein? Weil, wieso soll ich mir das Paper durchlesen, wenn ich doch sehe, hey, die KI fasst es mir auch zusammen, und es reicht mir vielleicht für meine Zwecke? Ab wann ist es noch ein „Okay, da lasse ich mir jetzt stumpfe Arbeit abnehmen“, und ab wann wird es schon so: „Pass auf, dass du auch ohne KI noch gut funktionierst“?

Aljoscha Burchardt: Pädagogen sagen mir, Arbeit braucht auch Widerstand. Also dieser Muskel zwischen unseren beiden Ohren da oben: Man lernt nicht im Schlaf. Du musst dich durch Widerstände kämpfen. Und wenn du zwei Wochen lang mit einem Essay-Thema irgendwie schwanger gegangen bist und da immer wieder drüber nachgedacht hast und noch mal in ein Buch reingelesen und noch mal hier und noch mal mit Freunden drüber gesprochen hast, dann kommt das ganz anders aus dir selber raus, als wenn du sagst: ChatGPT, gib mir mal drei mögliche Essay-Themen zum Thema Umweltschutz und KI. Und selbst wenn ich mir dann ein viertes Thema selbst ausdenke, dann bin ich natürlich wahnsinnig vorbestimmt und schon eingeschränkt in meiner gedanklichen Freiheit. Also, den sogenannten Ankereffekt, den kennen wir, der ist gut bewiesen. Selbst wenn du dann selbst weiterdenkst. Deshalb sagen ja manche Leute wie Rolf Schwartmann, Jurist aus Köln, der bei mir im Podcast war, „Mensch, Maschine, Mensch“ an solchen Stellen. Erst mal ich selber, wirklich ohne die Maschine, dann kann ich sie nehmen, um die Ideen zu massieren, zu verschönern und zu vergolden. Und dann gehe ich noch mal drüber und verantworte das Ganze und stehe für das Ganze gerade. Wenn man sich das mal versinnbildlicht – diese Ankereffekte sind so oft untersucht worden. Ich mag so gerne von Kahneman „Schnelles Denken, langsames Denken“. Das ist nur ein numerisches Beispiel und trotzdem hübsch. Da haben sie ein Glas mit Murmeln auf den Tisch gestellt und haben Leute schätzen lassen: Wie viele Murmeln sind in dem Glas? Und dann kommt dabei eine Kurve raus, eine Normalverteilung. Im Schnitt schätzen die Leute richtig. Manche überschätzen, manche unterschätzen, so in der Mitte stimmt es. Lass es 200 Murmeln sein. Wenn man jetzt vor der Schätzung irgendeine absurde Zahl in den Raum stellt, wenn man die Leute fragt: Sind in dem Glas mehr als zwei Murmeln oder weniger als zwei Murmeln? Oder du sagst: Sind da mehr als eine Milliarde Murmeln oder weniger als eine Milliarde Murmeln drin? Dann verschiebt sich die Schätzung der ganzen Kohorte. Dann traut man sich nicht mehr, 200 zu sagen, dann sagt man vielleicht 190 oder so, weil ja schon diese zwei im Raum stehen. Das ist der Ankereffekt. So ist unser Gehirn. Immer wenn ich die KI schon mal gefragt habe, dann ist mein Gehirn schon geankert, sozusagen. Und das ist eine kommerzielle Firma, die ist nicht notwendigerweise nur dafür da, dass ich eine gute Hausarbeit schreibe, sondern die kann mich politisch, kann mich kommerziell, die kann mich in jede Richtung, ob bewusst oder unbewusst, manipulieren und beeinflussen. Und, ja, das ist gefährlich, absolut. Und die Frage ist auch: Warum mache ich das Ganze? Warum gehe ich an die Uni und schreibe Essays und so weiter, wenn ich mir die nur schreiben lassen will? Das heißt, irgendwie schafft es das System offensichtlich nicht, die Leute zu aktivieren, ihre Leistung zu erbringen. Die man mal so gebaut hat, damit sich ein Gehirn, ein Mensch, eine Persönlichkeit ausbilden kann. Und wenn ich sozusagen jede Abkürzung nutze, um da durchzukommen, und dann nicht diese Ausbildung erfahre, die eigentlich mal so gedacht war, dann merkt man ja, dass am System irgendwas offensichtlich faul ist. Sonst hätte ich ja Spaß daran und würde verstehen, warum ich dieses Essay schreiben muss, und warum nicht. Es geht am Ende nicht darum, dass da 20 Essays auf dem Tisch liegen, sondern es geht darum, dass sich 20 Menschen zwei Wochen intensiv mit dem Thema beschäftigt haben, damit ihr Gehirn gut wachsen kann. Jetzt mal plakativ gesprochen. Ja, dann muss man, glaube ich, darüber reden.

Katrin: Ja, wahrscheinlich. Da stellt sich dann auch die Frage, Leute nutzen eben gerne Abkürzungen. Und wieso soll ich eine, sag ich mal, eine Drei riskieren mit meinem eigenen Gedankengut, wenn ich weiß, wenn die KI mal drüberbügelt, dann wird es vielleicht eine Zwei oder eine Eins? Und dann zu sagen: Na ja, aber so habe ich zumindest alles selber gemacht. Das weiß ich nicht, wie viel Willenskraft die Leute da haben.

Aljoscha Burchardt: Das braucht eine hohe Willenskraft und Eigenmotivation, sehe ich ein. Einer Pubertierenden wie meiner Tochter, so mit 13, würde ich das nicht zutrauen. Aber jemand, der studiert, der Anfang oder Mitte 20 ist, dem kann man möglicherweise mehr zutrauen an der Stelle. Aber vielleicht müsste man das dann dafür auch thematisieren und einen Metadiskurs darüber machen: Warum sind wir hier? Warum machen wir das alles? Warum kommen wir zusammen? Warum schreiben wir unsere Essays selber? Oder wo nutzen wir denn die KI? Und ich habe auch schon bei Leuten gesehen, dass dann KI auch gemeinsam genutzt wird, zum Beispiel. Da haben sie erst darüber diskutiert: Was wollen wir eigentlich prompten, was wollen wir eigentlich recherchieren, an welcher Stelle wollen wir die Hilfe? Dann haben sie sich die KI-Hilfe genommen, und dann sind alle mit demselben KI-Ergebnis losgegangen und haben dann ihren Essay geschrieben. Das kann man ja auch machen, dass man das als Gruppenthema nimmt und sich damit gut auseinandersetzt, wie man es gut nutzt, was sind Pitfalls, auf welche Dinge müssen wir achten und so weiter. Ich denke, da ist auch ein bisschen Kreativität gefragt.

Katrin: Die KI steht sehr im Verruf, gegen etwaige Umweltziele zu agieren. Das sind ja horrende Mengen an Wasser, die man da verbraucht. Wie ist dein Take dazu?

Aljoscha Burchardt: Da kann man natürlich erst mal wieder differenzieren und sagen: Über welche Arten von KI spricht man? Ja, klar, die großen Modelle: Viel hilft viel. Wir wissen, die brauchen wahnsinnige Rechenkapazitäten, und die Erfolge der nachfolgenden Generation heißt immer noch mehr Rechenkapazität, noch mehr Daten, noch größere Rechenzentren. Das ist das eine. Auf der anderen Seite gibt es auch viele Aufgaben, die man mit kleineren Modellen, mit lokalen Modellen im Keller und mit Open-Source-Modellen und so weiter lösen kann. Und es gibt auch ganz andere Forschung. Es gibt Forschung an neuromorphen Chips, die viel besser geeignet sind fürs KI-Rechnen als diese Grafikkarten, die man heute benutzt. Es gibt kleine KI-Systeme, Stichwort Edge-Computing, die vielleicht sogar auf einer Maschine oder auf einem Traktor oder irgendwo laufen können, wo man vielleicht noch gar nicht digitalisiert ist oder gar kein Netzwerk hat. Das heißt, die Breite der möglichen Technologien, die ist unendlich, und nicht alle KI-Technologien brauchen so viel Strom wie die großen Modelle. Die sind natürlich die Speerspitze im Verbrauch, und auch die könnten effizienter werden. Wir sind im Jahr 4 der Entwicklung, wenn du so willst. Auch Websuche, auch Streaming, auch andere Dinge sind effizienter geworden und brauchen dennoch viel Energie, so wie alles im Leben. Jede Autobahn, jede Avocado, jede Bratwurst, jeder Urlaubsflug und so weiter. Es braucht natürlich alles im Leben Energie. Ja, fast nichts geht ohne. Aber in der analogen Welt haben wir zumindest mal häufig einen ganz guten Kompass und wissen eben, was diese Bratwurst oder diese Badewanne oder diese Avocado oder dieser Urlaubsflug bedeuten, und können uns überlegen: Ist es uns das wert, oder wie oft machen wir das, und so weiter. Aber in der digitalen Welt haben wir das nicht so sehr. Und wenn du beim Kochen ein Streaming, 4K-Film streamst und eigentlich nicht hinguckst, dann ist es halt ein wahnsinniger Stromverbrauch auch für nix. Und wenn wir uns im Restaurant unterhalten, wie hoch der Eiffelturm ist, und fünf Leute gleichzeitig eine KI-Suche losfeuern, dann ist das natürlich eine absolute Verschwendung und absoluter Blödsinn. Das ist ja das, was Individuen machen können, in ihrem eigenen Verhalten sich überlegen: Brauche ich es jetzt wirklich? Ist das jetzt der Moment, wo ich auch mobile Daten nutzen muss, oder lassen wir das alles mal? Dass man auch für das Digitale vielleicht einen besseren Kompass braucht. So wie wenn du dir eine Badewanne einlässt, dann fragst du dich halt auch: Muss das wirklich sein, oder reicht auch kurz duschen, oder vielleicht gar nichts? Das haben wir im Digitalen, glaube ich, noch nicht so, und daran kann man, glaube ich, arbeiten und auf der anderen Seite aber auch politisch mandatieren: Rechenzentren in Europa müssen erneuerbare Energie nutzen, müssen die Abwärme nutzen und so weiter, kann man natürlich auch sagen. Wir sorgen auch dafür, dass wir diese neuen Technologien auch mit einem Nachhaltigkeits-Footprint ausstatten.

Katrin: Ein sehr guter Freund von mir forscht daran, wie KI in der Medizintechnik verwendet wird. Dass man sagt, man schaut sich die fertigen MRT-Befunde an und erkennt vielleicht Krankheiten oder Gefahren, noch bevor es das menschliche studierte Auge kann. Das ist ja ein megaguter Einsatz von KI.

Aljoscha Burchardt: Wir hatten jemanden im Podcast, der sagt, es gibt 200 verschiedene Typen von Hautkrebs. Als Mensch mit menschlichem Auge unterscheide die mal als Hautärztin. Und jeweils unterschiedliche Behandlungsmethoden, unterschiedliche Dinge, auf die man achten muss. Und so, klar, diese Mustererkennung, bildgebende Verfahren, das ist natürlich ein Prime-Example. Oder auf der anderen Seite auch unser Genom zu verstehen, Erbkrankheiten zu verstehen, zu verstehen, wie man Leute mit Parkinson, Krebs und anderen Dingen helfen kann. Um besser den Körper zu verstehen, individuellere Therapien anzubieten als sozusagen immer mit der vollen Strahlendosis und Kortison und was man halt heute eben oftmals nur hat, weil man es nicht detaillierter kann. Auch Wechselwirkungen von Medikamenten, seltene Krankheiten und so. Und die ärztliche Versorgung auf dem Land kann man ja auch mit Telemedizin und technischer Hilfe denken, wo einfach niemand ist. Also, es gibt ganz, ganz viele Anwendungsfelder, im medizintechnischen Bereich natürlich auch Prothetik und Sehhilfen, Hörhilfen und so weiter. Da kommt natürlich noch ganz vieles. Das ist ein Bereich, wo man hoffen kann.

Katrin: Gibt es denn für dich was, wo KI noch gar nicht so gut funktioniert? Und auch gleich die Anschlussfrage: Wo funktioniert für dich KI schon wirklich sehr, sehr gut?

Aljoscha Burchardt: Wenn wir uns die großen Modelle angucken – was nicht so gut funktioniert, ist, ein vernünftiges Benutzermodell zu haben. Es kommt immer diese 0815-Banalität. Kann man natürlich immer sagen: Hast nicht gut genug gepromptet, oder deine History war nicht lang genug. Wenn du nur monatelang mit dem Ding sprichst, versteht das immer besser, wie du tickst und was du erwartest. Aber als Mensch haben wir ein viel schnelleres Bauchgefühl und können wir unser Gegenüber einschätzen. Nach Sekunden weiß ich, wer du bist und wie ich dich abholen kann. Wenn ich vor neuen Leuten spreche oder auf einer Party jemand Neues treffe,  brauche ich nicht hunderte von Trainingsstunden, bis ich weiß, wie ich mit dieser Person so spreche, dass es für sie interessant und aufschlussreich ist. Da sind wir Menschen einfach viel schneller und viel, viel besser. Und was KI auch gut simulieren kann, das wissen wir, ist Empathie. Das wird auch in Tests eben oft gezeigt. Sie wurde als empathischer als Ärztin oder Ärzte empfunden, die nach der 24-Stunden-Schicht sieben Minuten Zeit haben für ein Aufklärungsgespräch, das 124., ja. Dann sind die KI-Systeme, die sind nicht genervt bei der 17. selben Frage. Auch da können sie viel simulieren. Was sie natürlich nicht können, ist, eigene Gefühle empfinden. Wenn du sagst: Wie fühlt sich das an, verliebt zu sein? Oder: Wie fühlt sich das an, wenn man dir vors Schienbein tritt? Dann kann das KI-System sagen: Ja, Schmetterlinge im Bauch, oder das tut weh, und so weiter. Das sind natürlich angelesene und wiedergegebene und auch plausible Gefühlsäußerungen, aber sie haben natürlich keine Spiegelneuronen und haben keinen Schmerz gespürt. Manche Leute sagen, dass das Embodiment, also wenn die KI-Systeme in der Familie lernen, also Roboter quasi dann, mit uns aufwachsen und wirklich die physikalische Welt kennenlernen, so wie ein Einjähriger einen Schlüssel runterschmeißt und eine Tasse runterschmeißt, dann kommen wir ins nächste Level.

Katrin: Kurzer Zwischenstopp, bevor es gleich ziemlich grundsätzlich wird. Drei Dinge, die ich mir aus diesem Teil mitnehme.

Lifehack 1: Wer erst selbst nachdenkt, dann die KI fragt und am Ende wieder selbst drübergeht, bleibt bei den eigenen Gedanken. Mensch, Maschine, Mensch nennt Aljoscha das, nach dem Juristen Rolf Schwartmann. Wer dagegen zuerst die KI fragt, ist schon geankert und denkt in ihren Bahnen weiter.

Lifehack 2: KI geht auch gemeinsam. Manche Gruppen besprechen erst zusammen, was sie die KI überhaupt fragen wollen, und arbeiten dann alle mit demselben Ergebnis weiter. So redet man ganz nebenbei auch darüber, wo die Fallstricke liegen.

Lifehack 3: Auch das Digitale verbraucht Energie, man sieht es nur nicht. Wenn fünf Leute im Restaurant gleichzeitig per KI nachschauen, wie hoch der Eiffelturm ist, hält Aljoscha das für pure Verschwendung. Bei der Badewanne fragen wir uns ja auch, ob kurz duschen nicht reicht.

Und damit zurück zu Aljoscha, denn der dreht die Frage jetzt einfach mal um. Und ehrlich gesagt finde ich seine Version viel spannender als jede neue Funktion.

Aljoscha Burchardt: Warum interessiert uns das immer so sehr, was die KI heute kann oder was sie morgen kann oder was sie übermorgen kann? Wenn wir mal annehmen, dass sie ganz vieles kann und immer mehr können wird – KI kann Patienten behandeln, KI kann Recht sprechen, KI kann Essays schreiben – sollten wir doch die Frage stellen: Was wollen wir eigentlich, dass sie tut? Also, wollen wir, dass sie Patienten behandelt, wollen wir, dass sie Recht spricht, oder wollen wir das lieber bei Menschen? Rhetorische Frage. Wollen wir das lieber bei Menschen halten, weil Menschen Verantwortung übernehmen können, weil Menschen wissen, was sie tun und was sie für moralische Ansprüche an sie gestellt wird, und weil sie eben auch eine Ausbildung hinter sich haben und Berufsethos haben und so weiter? Also, insofern finde ich die Fragen dann immer spannender: Wo wollen wir unbedingt die Menschen halten? Was ist uns so wichtig und im Kern eben so menschlich, dass wir das auch vielleicht noch verstärken wollen? Und wo können wir Menschen und sollten wir Menschen auch Dinge abnehmen, die vielleicht nicht so wichtig sind, Reisekostenabrechnung oder andere Dinge, dass man damit seine Zeit verbringt, oder Dokumentationsaufgaben, wenn im medizinischen Bereich das Personal 40 bis 60 Prozent seiner Arbeitszeit mit Dokumentationspflichten verbringt? Nichts gegen Dokumentationspflichten. Aber dann ist es vielleicht too much, und dann fehlt die Arbeit an der Patientin. So rum zu denken, zu sagen: Was wollen wir bei Menschen machen, weil wir auch Menschen sind? Also, Rolf Schwartmann sagt, das Primat des Menschlichen hätte er gerne in der Verfassung stehen. Also, erst mal: Mir san mir. Wir wollen das machen, weil wir eben diese Spezies sind und nicht die anderen. Ob KI jetzt eine Spezies ist oder wird, mal dahingestellt, aber wir wollen es einfach bei uns halten. Und dann die andere, aber natürlich damit verbunden, die Frage: Wo können wir auf der anderen Seite mit dieser geilen Technik eben Wertschöpfung machen, uns Arbeit abnehmen, damit wir eben auch, ich sag mal, die Kohle haben, um die guten Dinge voranzutreiben auf der anderen Seite? In der Pflege, in der Ausbildung und so weiter, wo wir ja dringend Bedarf haben, besser zu werden.

Katrin: Da würde ich ganz persönlich als Privatmensch auch die Grenze ziehen. Also, ich finde, die KI soll alles abnehmen, was irgendwie diese stumpfe Arbeit ist. Weißt du, so Mailfächer vorsortieren oder eben über so Bilder drübergucken oder Dokumentationspflichten. Das betrifft ja nicht nur die Pflege. Ein Bauer oder eine Bäuerin sitzt mehr am Computer, als dass sie bei ihren Viechern ist. [...] Wenn das eine KI abnimmt, so, gern, do it. Aber wenn's so drum geht: Ich würd gern ein Geburtstagsgedicht für meine Mutter schreiben, das kriegst du vielleicht allein hin.

Aljoscha Burchardt: Dann hast du eben in Japan die Pflegeroboter, wo die Leute aus Schamgefühl sagen: Ich lasse mich dann lieber im intimen Bereich von einem Roboter waschen als von einem Menschen. Das möchte ich niemandem zumuten, dass der das machen muss, nur weil ich selber nicht mehr drankomme. Das ist dann auch eine andere Meinung, die es gibt. Oder eben da, wo die Zeit nicht da ist, wo wir nicht genug Pflegekräfte haben. Der Roboter oder die Robbe, die dann mit einem Demenzkranken Volkslieder singt, oder die im Kindergarten mit Kindern bisschen Sprachübungen macht, um schneller aufs Level von deutscher Sprache zu kommen. Wo du nicht genug Menschen hast, die die Zeit haben, mit jedem Kind eine Stunde Vokabeltraining zu machen oder so. Dann kannst du dir schnell wieder Anwendungen ausdenken, wo du denkst: Eigentlich gar nicht so verkehrt. Aber das muss man dann eben im Einzelfall und auch möglicherweise pro Person sehen. Dem einen ist das vielleicht recht, und der mag das, oder sie mag das, und der andere sagt: Da geht es mir zu weit. Das sind dann auch individuelle Grenzen, das fände ich aber eben spannend. Die müssen wir verhandeln, darüber müssen wir diskutieren, und da müssen wir gucken, und dann spricht ja gar nichts dagegen, dass die eine Person ein bisschen mehr macht und eine andere Person ein bisschen weniger macht. Es ist ja nicht gottgegeben, dass die sozialen Netze einen abhängig und blöd machen und gegeneinander aufhetzen. Das sind ja nur die derzeitigen Designprinzipien, weil die die Leute bei der Werbung halten. Nicht mal, wenn man die Leute blöd oder böse machen will, sondern weil es einfach am besten funktioniert.

Katrin: Viele nutzen die KI aber jetzt auch als vertraute Person: Ich habe vielleicht ein Seelenproblem, ich möchte mit jemandem reden. Das clasht dann natürlich auch mit Sachen wie: Wir haben immer weniger Therapieplätze. Es ist wahnsinnig schwer, einen Therapieplatz zu bekommen. Und auch wenn wir wissen, eine KI ist so bisschen biased, und die ist, die soll dich bestätigen, und die soll dir ein gutes Gefühl geben. Wie siehst du das? Wie siehst du das, dass jemand da reinschreibt und sagt: Ich hab Stress mit meinem Freund, oder meine Katze ist gestorben, ich bin wahnsinnig traurig, ich hab grad niemanden, mit dem ich reden kann?

Aljoscha Burchardt: Da hört erst mal jemand zu. Kürzlich lief so ein Kinofilm hier über Leute, die sich in KI verlieben, und ich war von unserem Regionalkino hier eingeladen, um anschließend eine Diskussionsrunde mit den Zuschauerinnen und Zuschauern zu machen. Darüber haben wir auch diskutiert. Und ein Teilnehmer, der war tatsächlich Therapeut, hat gesagt, was diese AI-Companions in diesen Gesprächen sagen, das ist eins zu eins Lehrbuch-Therapie. Da ist inhaltlich gar nichts gegen zu sagen, wie diese Dinge vorgehen. Und die Baseline ist halt: Du hast keine Therapeutin und keinen Therapeuten, weil es keine Plätze gibt, und für gesetzlich Versicherte schon mal gar nicht. Und so muss man dann reden. Und auch da kann man ja vielleicht unterscheiden, nach Schwere der Fälle. Und dann kann man vielleicht geeignete und auf Krankenkarte und so weiter. Das kann Teil der Lösung sein. Ich denke das geht schneller, als Therapeutinnen und Therapeuten auszubilden. Und trotzdem ist es natürlich nicht das Gleiche.

Katrin: Nee, klar, wollte ich eben sagen, es ersetzt das Ganze auch nicht. Weil dieses Konfirmative kann natürlich auch schädlich sein.

Aljoscha Burchardt: Genau, nicht alles gefallen lassen. Ja, aber das ist klar. Du kannst dir auch gemischte Modelle vorstellen, wo du sagst, du hast eine Therapeutin und Therapeuten, und dazwischendurch redest du mit dem KI-System, und der oder die bekommt dann vielleicht auch mal eine Zusammenfassung oder kann in die Dialoge reinschauen, kann intervenieren, vielleicht auch mit einem Warnsystem und so weiter. Ich sag mal auch, ärztliche Versorgung auf dem Land, Leute, die immobil sind, und so weiter. Wir hatten im Podcast einen Therapeuten, der hat gesagt, er nimmt KI als drittes Ohr in die Therapiesitzung. Also, am Ende der Sitzung sagt er: Was waren heute unsere Themen, wie habe ich mich gefühlt? Dann sagt die Patientin, der Patient: Was waren unsere Themen, wie habe ich mich gefühlt? Und dann sagt das KI-System: Was waren eure Themen, und wie hörte sich das an? Ja, und dann haben die sich einfach eine Supervision über KI geholt, das ist erstmal ein Zusatz, sozusagen. Warum nicht? Das ist einfach erstmal ein Zusatz. Und wir hatten auch mal die Leiterin der Kinderpsychiatrie in Homburg als Gast, und die hat gesagt, es gibt schwer traumatisierte Kinder, die gar keinem Menschen mehr trauen, mit Missbrauch und Heimerfahrung und so weiter. Die sagen, wenn du normale Therapeutinnen und Therapeuten hast, dann sagen die am Ende des Gesprächs: Ja, wie, jetzt ist es zu Ende? Der mag mich auch nicht. Nach einer Stunde hat er keine Zeit mehr für mich. Die haben grundsätzliche Schwierigkeiten. Und wenn die nachts aus ihrem Albtraum erwachen und die Alternative ist, sie spielen irgendwie ein Ballerspiel, dann ist eben möglicherweise ein einigermaßen einfühlsamer Chatbot die bessere Alternative. Also auch da, wie vorhin: Kommt immer drauf an.

Katrin: Was darf man der KI jetzt nicht erzählen?

Aljoscha Burchardt: Es gibt natürlich Bezahlmodelle und Corporate-Lizenzen, wo die sagen: Die sind DSGVO-konform, wir nutzen die Daten nicht weiter. Aber, sagen wir mal, ein freies Modell, was sich einräumt: Wir können die Daten … Also ich würde sagen, so wie bei Google und bei anderen auch, da sind wir ja auch entspannt. Deine Krankheiten oder deine, keine Ahnung, was Leute suchen, da reinzugeben, Probleme, Partnerprobleme, sexuelle Vorlieben, was weiß denn ich, was Leute alles bei Google reingeben. Die dürfen es auch nutzen, oder die ihre Gmails in ihre … was reinschreiben. Also, insofern, würde ich sagen, da hätte ich nicht mehr oder nicht weniger Angst an der Stelle hier. Kann man natürlich gut sagen, wenn man einigermaßen in einer freien Demokratie lebt. Wenn du in autoritären Staaten bist und dann jemand was gegen dich hat, dann kann das natürlich auch aus diesen Daten gezogen und gegen dich ausgelegt werden. Also, die Möglichkeit besteht. Und in dieser Weltlage darf man vielleicht auch nicht zu entspannt sein. Ich kann vielleicht auch Sachen anonymisieren: „Ich frag für einen Freund“ und so weiter. Ich sehe jetzt keine signifikant neue Qualität.

Katrin: Und welche Informationen würdest du da … Also, dass wir nicht die Kreditkartennummer eingeben, das ist, glaube ich, klar. Aber ansonsten einfach so bisschen anonymisieren, sagst du?

Aljoscha Burchardt: Könnte man, wenn es einem wirklich wichtig ist. Na gut, du bist eingeloggt, du hast eine History, man kennt deine IP-Adresse und so weiter. Mit ein bisschen Mühe kriegt man die Sachen letztlich über die Zeit ja auch zusammen. Ich kenne das ja auch hier: Wenn meine Frau was sucht oder ich was suche, dann tauchen die Ergebnisse beim anderen auf. So richtig anonym ist man natürlich nicht. Das ist eine Abwägungsfrage: Was nützt es mir, und wie groß ist das Risiko, dass mir das irgendwann mal schaden könnte?

Katrin: Was würdest du jetzt einer Person raten, die KI gerne ausprobieren würde und das aber noch nie gemacht hat?

Aljoscha Burchardt: Es gibt die Statistik gar nicht her, dass wir solche Leute noch als Hörerinnen haben, oder?

Katrin: Zumindest nicht unbedingt bei der jungen Zielgruppe bis 29, da haben wir noch neun Prozent, die du erwischen könntest. Aber jetzt mal rein theoretisch: Was wäre für dich so der beste Nutzen von KI?

Aljoscha Burchardt: Also, ich finde es sehr praktisch für komplexere Recherchen. Also für Recherchen, wo ich sage, ich müsste auf so viele Seiten gehen und Informationen zusammenziehen, oder ich weiß noch gar nicht genau, wonach ich eigentlich suche. Also für so explorative Dinge. Meine Frau hatte mal zum Beispiel, das ist jetzt ein bisschen einfacher, aber das ist: Welche Ferienhäuser an der Côte d'Azur sind von Architekten vermietet? Die gibt es alle bei Airbnb, aber das ist eine ganz schöne Wühlerei, bis man jedes einzelne Haus angeguckt und die Leute nachrecherchiert hat. Solche Dinge. So eine komplexe Suchanfrage, das macht dir das Ding in Sekunden. Darunter sind ein paar Häuser halluziniert, du merkst aber sofort, dass es die nicht gibt, und alle anderen gibt es. Das ist eine Aufgabe, da hätte man einen mittelbegabten Praktikanten, eine Praktikantin für gebraucht, die einem da zwei Stunden, drei Stunden, fünf Stunden recherchiert. So was, was man auch einer Praktikantin geben und sagen würde: Ich kann mit dem Ergebnis, was zurückkommt, dann selber sinnvoll weiterarbeiten und kann das einschätzen und kann das bewerten. Das ist ja immer das: Kann ich mit dem Ergebnis sinnvoll weitermachen, oder nicht? „Sollten wir mehr auf Kernkraft setzen angesichts des Klimawandels?“ wäre jetzt vielleicht nicht eine Frage, die ich mir von KI beantworten lassen und sagen würde: Mit der Antwort arbeite ich dann weiter. Oder man challengt es dann. Auch das weißt du natürlich. Man kann dann sagen: Was würde eine konservative Person sagen? Was würde eine andere Person sagen? Was spricht dagegen? Was spricht dafür? Argumentier mal. Man kann die natürlich auch beliebig nutzen, um Informationen zu walgen von links nach rechts. Das machen ja auch Leute als Sparringspartner. Dann lies mal meinen Text und stell mal drei kritische Fragen, die man mir stellen könnte dafür, und all sowas. Das ist auch flott.

Katrin: Ja, ich finde es zum Beispiel auch sehr praktisch, sich komplexe Sachverhalte erklären zu lassen. Wenn du merkst, ich verstehe es noch nicht, bei Kernkraft zum Beispiel: Wie funktioniert ein Druckwasserreaktor? Jetzt habe ich mir schon zwei YouTube-Videos angeschaut, das ist mir immer noch zu hoch, also jetzt hypothetisch. Erklär es mir mal, als wäre ich zehn.

Aljoscha Burchardt: Ja, oder wo kann ich es nachlesen?

Katrin: Was würdest du Menschen raten, die zu dir kommen und sagen: Ich hab Angst um meinen Job. Wie entwickelt sich die KI?

Aljoscha Burchardt: Es werden sich ganz viele Jobprofile ändern. Die Technologie, ja, die können wir nehmen, um Dinge auszulagern, Dinge zu vereinfachen, Dinge auch zu ersetzen. Aber ich denke, als Individuum hat man das gar nicht so wahnsinnig in der Hand. Wenn wir offen und neugierig bleiben, diese Technik ist ja auch leicht zu bedienen. Das ist ja nicht so, dass man da irgendwas Spezielles tun muss. Ich würde sagen, wenn man neugierig und breit aufgestellt ist, dann werden es die Leute auch schaffen, mit KI an den Veränderungen teilzuhaben. Und idealerweise machst du gestaltend mit und sagst: Hey, pass mal auf, ich habe schon eine Idee. Da und da könntest du mir Arbeit abnehmen. Aber das und das würde ich überhaupt nicht gerne abgeben, weil das verantwortungsbewusst ist, weil es sich immer ändert oder weil ich es gerne mache. Auch das wäre ja ein valides Argument, zu sagen: Wir haben Fachkräftemangel. Ich würde gerne bei dir in der Firma arbeiten, aber nur, wenn ich diese und jene Sache da selber machen kann oder zu 80 Prozent selber machen kann. KI kann mir die Standardfälle wegschaffen oder kann mir vorher eine Priorisierung machen oder kann mir die beste Fahrtroute ausrechnen, aber ich fahre dann selber hin. Also, ich denke, dieses Gestaltungspotenzial zu nutzen. Und wenn jetzt gesamtgesellschaftlich wirklich 80 Prozent aller Jobs ersetzt werden, weil die Logik so ist, dann müssen wir eine ganz andere Vision uns aufbauen, wie wir dann unsere Zeit verbringen wollen, wie wir dann Wertschöpfung machen wollen, wovon wir dann leben wollen. Aber das, würde ich sagen, ist dann einfach noch mal eine Nummer zu groß, um das jetzt als Einzelner oder Einzelne da was Sinnvolles zu sagen.

Katrin: Dann hab ich noch eine letzte Frage an dich. Wenn du so an die nächsten zehn Jahre denkst: Wo siehst du die KI? Worauf freust du dich am meisten und wofür hast du vielleicht bisschen Respekt?

Aljoscha Burchardt: Ich sehe ja den Roboter hier Fenster putzen und Spülmaschine ausräumen und so weiter. Das ist mal so die eine Sache, so die mechanischen Alltagstätigkeiten. Und auf der anderen Seite wäre für mich so eine richtig gute Assistenz, aber die müsste einfach richtig gut sein. Die sagen würde: Pass mal auf, Aljoscha, du hast die und die Anfragen und die und die Termine, die könntest du so und so legen. Aber du möchtest ja gerne deine Tochter da abholen, und du möchtest an dem Abend gerne da auf die Party gehen. Ich habe mal einen Vorschlag: Du kannst es so und so, kriegst du das auf die Kette. Also, das müsste aber wirklich gut sein. Das ist kein einfacher Job. Ich sage mal, früher, jetzt despektierlich, ohne gendern zu wollen, die Chefsekretärin war wirklich eine Person, die dich echt gut kennt. Oder ein KI-System, was dich so gut kennt und gute Vorschläge machen kann, dass du nicht nachwischst. Und das kann ich mir schon vorstellen, wenn dich so ein System eine Zeit lang beobachtet, dass es das hinkriegt, eine wirklich gute Assistenz zu sein. Das fände ich cool.

Katrin: Und am meisten Respekt hast du vor …?

Aljoscha Burchardt: Na ja, wir haben ja die vielen großen, großen Themen von Verblödung, von Marktverzerrung, weil die Leute nicht mehr auf Qualitätsinhalte kommen mit KI-Suche, oder weil sie auch nicht mehr auf lokale Produkte kommen, wenn sie sich ein Fahrrad kaufen wollen, weil KI irgendwas aus Nordamerika vorschlägt. Also, diese ganzen, sag ich mal, eher kurzfristigen Effekte, auf die wir jetzt gerade nicht eingestellt sind, die können relativ schnell großen Schlamassel anrichten. Aber da können wir vielleicht sogar auch bisschen mithelfen, dass es nicht passiert.

Katrin: So, was bleibt hängen von diesem Gespräch? Bei mir vor allem diese eine Umkehrung. Wir fragen ständig, was die KI heute kann und was sie morgen vielleicht noch alles können wird. Viel spannender ist aber, was wir eigentlich wollen, dass sie tut, und was wir ganz bewusst bei uns Menschen behalten. Laut einer Bitkom-Studie empfindet fast ein Drittel der KI-Nutzerinnen und -Nutzer unter 30 die KI manchmal als eine Art digitale Bezugsperson. Aljoscha hat dazu einen Satz gesagt, der bei mir hängen geblieben ist: Da hört erstmal jemand zu, und trotzdem ist es natürlich nicht das Gleiche wie ein Mensch. Und die Idee, dass eine Therapeutin die KI als drittes Ohr mit in die Sitzung nimmt, fand ich echt spannend. Was ich mitnehme: Die KI darf mir gern die stumpfe Arbeit abnehmen, das volle Postfach, die Dokumentation oder die Recherche, für die man sonst einen mittelbegabten Praktikanten ein paar Stunden beschäftigen würde. Aber das Geburtstagsgedicht für meine Mutter schreibe ich weiterhin selbst. Und vorher denke ich erst mal selbst nach, ganz nach dem Motto Mensch, Maschine, Mensch.

Wenn euch die Folge gefallen hat, abonniert ERGO Lifehacks gern und empfehlt uns weiter. Und wenn euch die KI beim nächsten Mal fragt, ob sie das Ganze noch mal in Farbe machen soll: Ihr dürft auch einfach Nein sagen. Macht es gut und bis zur nächsten Folge.