Toby
Veröffentlicht am 11.05.2026
Transkription
Diese Transkription enthält vermutlich ein paar Fehler, hilft aber bei der Suche. Wer das hier liest schläft auch ein!
Moin, ich bin Tobi und dies ist der Haltungsblog. In dieser Episode wird es
um meine Haltung zum Thema KI gehen.
Das ist also auch nicht zu erwarten, dass dies eine abgeschlossene Episode wird.
Eine Episode zur Haltung zu KI und dann war es das. Sieht aktuell nicht so aus.
Das Thema ist sehr komplex und groß und verändert sich täglich,
fast täglich zumindest.
Und deswegen erfordert das Thema eine kontinuierliche Betrachtung,
Beobachtung und Einstellung.
Also es reicht nicht aus, sich einmal eine Haltung zum Thema KI zu entwickeln
und dann war es das und damit kann man dann bleiben.
Es sei denn, die Haltung lautet, das finde ich alles blöd, das kann weg.
Das ist bei mir nicht der Fall. Ich möchte allerdings sehr differenziert an
die Sache rangehen. Deswegen möchte ich verschiedene Sachen trennen.
Vornehmlich meine Haltung bezüglich KI in der Arbeit und meine Haltung bezüglich KI in der Kunst.
Fangen wir mit Arbeit an. Machen wir Kapitelmarken. Warum eigentlich nicht?
Also in der Arbeit werden wir ja auch überrollt vom Thema KI.
Ich bin in der Softwareentwicklung tätig, das wissen viele.
Und gerade in der Softwareentwicklung hat KI einen unglaublichen Impact.
Es gibt neue Sprachmodelle wie Cursor oder Claude.
Ich glaube, Claude hat aktuell die Nase vorn von Antropic.
Das kann einfach sehr, sehr gut Sourcecode ausspucken. Also man unterhält sich
so ein bisschen mit Cloud und gute Herangehensweisen sind dann erstmal in den
Planning-Mode zu gehen.
Und mit Cloud bespricht man dann, wie man ein bestimmtes Feature für ein Programm umsetzen will.
Also es geht um Software-Programmierung, da muss halt am Ende Programmcode erzeugt
werden, der wird kompiliert oder ausgespielt auf Web-Servern,
was auch immer damit passiert. So, in meinem Fall geht es um iOS-Entwicklung,
also eine App fürs iPhone.
Und Cloud ist ja gut darin, Sourcecode zu generieren für diese App.
Aber auch nicht fehlerfrei, denn alles, was Cloud generiert,
ist ja halluziniert, ist ja plausibel, ist ja abgeleitet aus dem,
womit Cloud trainiert worden ist.
Und insofern kann das gar nicht immer alles sofort richtig sein.
Kann natürlich schon. Also je nachdem, in welche Richtung man schaut,
wenn man nur ganz, ganz kleine, triviale Sachen ändert, dann kann Claude das wirklich...
Besser als jeder andere Entwickler mit so weiter. Bei komplexen Sachen sieht
es ein bisschen anders aus.
Da braucht Claude sehr viel Anleitung, sehr viel Kontext, sehr viel Übung mit dem System.
Und auch da kann Claude sehr, sehr hilfreich sein bei der Planung von größeren
Änderungen, Refactorings und so weiter und so fort.
Aber das, was Claude dann am Ende ausspuckt an Sourcecode, ist häufig nicht
gleich am Anfang das Richtige.
Und das Richtige, damit meine ich nicht nur, es funktioniert,
sondern es funktioniert auch langfristig, es passt in die Architektur,
es passt in den Stil der bisherigen Entwicklung und so weiter und so fort.
Das ist also, ja, das erfordert dann noch ganz viel Feinschliff und Arbeit mit dem System.
Trotzdem glaube ich, dass Programme wie Claude oder Cursor allgemein dieses
Agentic, früher hieß das noch Vibe Coding und mit früher meine ich vor ein paar Wochen.
Heutzutage sagt man eher Agentic Coding.
Das ist jetzt da, das hat uns überrollt wie so eine Lawine und es ist auch nicht nur schlecht.
Also vieles daran ist halt sehr hilfreich. Es verändert aber den Arbeitsalltag
von Softwareentwicklern massiv.
Denn auf einmal können ja alle Sourcecode erzeugen. Nicht nur Softwareentwickler,
sondern auch Menschen, die vorher nichts mit Softwareentwicklern zu tun hatten.
Designer, Produktmanager, irgendwelche Manager, so wie Tobi.
Ich bin ja auch kein Entwickler mehr, sondern Manager.
So, und da kommt dann ganz viel Sourcecode raus. Die Frage ist ja,
Braucht man wirklich viel Source-Code? Also die Aufgabe, ich sage immer zu meinen
Entwicklern, die Aufgabe von einem Softwareentwickler ist nicht,
so viel Source-Code wie möglich zu produzieren.
Sondern so viel Wert für den Kunden zu erschaffen mit so wenig Source-Code wie möglich.
Denn jedes Zeile Source-Code ist irgendwann technische Schuld.
Das ist halt, je größer ein Softwareprojekt wird, desto schwieriger wird es,
das zu warten, weiterzuentwickeln und so weiter und so fort.
Und kann man natürlich sagen, mit Cloud ist das alles kein Problem mehr,
weil Cloud kann ja die Wartung machen, das Refactoring und alles Mögliche.
Aber da ist es halt noch nicht. Vielleicht nächstes Jahr, vielleicht nächste
Woche, wer weiß das schon.
Aktuell aber noch nicht. Und deswegen ist der Einsatz von KI halt schwierig,
weil auf einmal gibt es halt ganz, ganz viel Source Code, weil der wird einfach
generiert. Das geht halt sehr schnell, große Mengen an Source-Code zu generieren,
aber das muss ja alles angeguckt werden.
Wir können ja das einfach nicht einfach in das Produkt rein klamüsern und dann
ist es da und der Kunde guckt in die Röhre, wenn dann Bugs sind und keiner kann
die beheben. Also Bugs sind Fehler im Produkt, die dann zu Crashes oder zu Fehlverhalten führen.
Crashes sind Abstürze. Entschuldigung, ganz viel Dengeschaut, egal.
Es gibt schon Firmen, die stellen gar keine Entwickler mehr ein.
Softwarefirmen, die ohne Softwareentwickler Software produzieren,
einfach alles generiert und kümmern sich nicht um morgen oder keine Ahnung was.
So kann man machen, ist aber halt äußerst riskant für alle Beteiligten, das so zu machen.
Amazon hat angeblich gerade sehr, sehr viele Entwickler rausgeworfen,
weil das jetzt alles generiert wird und hat jetzt schon Probleme damit.
Also das war keine so gute Idee.
Bei uns ist es so, der Arbeitsalltag von einem Entwickler verändert sich massiv.
Es wird viel mehr Zeit damit verbracht, das auch kurz zu überprüfen.
Das wurde natürlich vorher schon gemacht, das ausgehört von Kollegen,
nennt sich Pull-Request-Review, wurde halt schon immer viel gemacht und jetzt
kommen halt noch viel mehr Pull-Requests rein.
Also das sind so Anfragen, dass ein neues Feature eingebaut wird, sozusagen.
Oh Gott, soll ich euch jetzt Git erklären? Nee, mache ich nicht.
Aber wenn etwas programmiert wird, schauen immer nochmal andere Leute auf den
Programmcode drauf, bevor der quasi ins Produkt kommt.
Und das muss natürlich für generierten Code erst recht gemacht werden.
Das heißt, im Arbeitsumfeld ist KI längst da und geht auch nicht mehr weg.
Allerdings ist umso wichtiger die Frage, was will man eigentlich damit machen.
Ich habe auch schon auf Management-Ebene gesehen, Denn da wird nicht nur das
Produkt, das man verkaufen will, generiert, sondern auch internes Tooling.
Also Werkzeuge, die irgendwelche Dashboards erstellen, die werden halt auch
alle jetzt mit Cloud erstellt.
Und dann sagt man ganz stolz, hey, ich habe ein neues Dashboard gebaut, hier, schaut mal.
Und auf die Frage, okay, warum hast du das erstellt, welches Problem soll das
lösen, ist dann meistens eher so, ja, ich brauchte das irgendwie.
Aber so richtig klar ist es nicht. und dann entsteht ein absoluter Wildwuchs
und es ist halt nicht wirklich hilfreich.
Das heißt, die Frage, was wollen wir eigentlich generieren mit KI,
ist halt auf einmal viel, viel wichtiger geworden. Ja, die Hürde ist geringer geworden.
Es ist viel leichter geworden, einen Programmcode zu erstellen,
aber das heißt nicht, dass alles generiert werden muss, was generiert werden
kann, weil man es vielleicht gar nicht braucht, weil es gar keinen Sinn ergibt, das zu bauen.
Und weil es eben auch gefährlich ist, Dinge zu bauen, die man selber nicht versteht.
Ich habe jetzt diese Woche gerade ein Experiment gemacht und ein kleines Feature
mit Cloud versucht zu entwickeln, von dem ich wusste, dass es geht.
Also ich habe gar nicht so richtig viel gelernt.
Also ich habe natürlich gelernt, besser mit Cloud umzugehen,
aber ich wusste, dass dieses Feature komplexer ist als etwas,
was ich ohne Cloud hätte machen können. Ich kann noch ein bisschen entwickeln.
Kleine Sachen habe ich auch schon gemacht.
Und meine Entwickler freuen sich dann immer, dass ich auch noch ein bisschen
was von Sourcecode verstehe und mich da auch einarbeite. Das macht mir auch Spaß.
Aber ich bin halt kein Profi-Entwickler. Und das, was ich mir vorgenommen hatte
diese Woche, wäre etwas für zwei, drei Profi-Entwickler gewesen,
in einem normalen Fall. Und ich habe das halt mit Cloud gemacht.
Und das hat funktioniert. Also ich habe ein Ergebnis bekommen.
Nicht perfekt, also es stürzt ab, wenn ich es falsch benutze.
Es ist also auf gar keinen Fall etwas, was ins Produkt reinkommt.
Ich möchte nicht mal meine Entwickler damit belästigen, dass die sich das angucken.
Aber ich habe etwas gelernt und zwar...
Ich glaube nicht, dass man, wenn es um Produktcode geht, also Software,
die man für Kunden erstellt, dass man dann etwas generieren sollte,
was man selber nicht mehr verstehen kann.
Ich könnte natürlich jetzt das, was ich selber nicht verstehe,
was ich selber nicht alleine geschafft hätte, an diesem Sourcecode an Leute
geben, die das eigentlich verstanden hätten, die das auch selber hätten machen können.
Dann können die das überprüfen und dann natürlich durchwinken.
Aber warum sollte ich das eigentlich tun?
Warum sollten die das nicht einfach generieren? Die können viel,
also während der Generierung schon erkennen, ist das das Richtige?
So, das heißt, ich setze für mich
ganz klare Grenzen, wofür ich Cloud im Arbeitsalltag einsetzen möchte.
Wenn ich eine Präsentation erstellen muss und gerade keine Vorlage habe,
dann mache ich das manchmal tatsächlich mit Cloud.
Weil da habe ich eine Presentation MD, eine Vorlage schon gemacht und lasse
dann Cloud mir irgendwelche Grafiken und sonst was generieren.
Alles natürlich mit meinem Input. Dann sage ich halt ganz genau, was drauf sein soll.
Aber ich muss die Grafik nicht selber malen. Das ist ganz praktisch.
Ich hätte sie selber malen können.
Mit Cloud ist es irgendwie deutlich schneller.
Und ich mache das auch nicht oft, aber manchmal brauche ich es.
Und dann ist es halt wirklich sehr hilfreich.
Also ich setze KI im Arbeitsumfeld nur da ein, wo ich es auch selber machen
könnte, wo ich selber das Ergebnis beurteilen kann, ob es denn richtig ist und
wo es mir aber Arbeit abnimmt und ich dadurch schneller werde.
Da, wo ich es nicht selber beurteilen könnte, ob das richtig ist,
was die KI gemacht hat, da setze ich es auch nicht ein.
Da frage ich dann lieber die Leute, die es richtig machen könnten,
ob sie das tun wollen, können und dass die das dann machen.
Ob die dann eine KI einsetzen, um schneller zu sein, das ist mir erst mal egal.
Also wahrscheinlich tun sie es mittlerweile, weil alle tun das.
Aber das heißt ja nicht, dass ich es selber mache.
Das heißt ja, Source-Code-Generierung wird demokratisiert, das ist immer so ein Stichwort.
Aber ob das so gut ist, ich weiß es nicht. Meine Haltung ist da eher,
wir brauchen da, wir müssen da eine Grenze finden.
Also wenn es länger dauert, einen von KI generierten Source Code zu überprüfen,
als ihn von einem Experten generieren zu lassen, warum soll es denn dann nicht
der Experte gleich generieren?
So losgelöst davon würde ich betrachten die Anwendung von KI in der Kunst.
Das ist ja auch etwas, was um sich greift. Spotify ist voll mit KI-generierter Musik. Was heißt voll?
Mein Bruder hat mir letztens erzählt, dass ihm automatisch was zugespült worden
ist, was offensichtlich KI-generiert war.
Es gibt da mittlerweile auch eine Webseite mit der kann man überprüfen ob Songs
auf Spotify KI generiert sind die heißt,
SlopTracker.org wenn ihr also auf Musik stoßt auf Spotify und ihr denkt,
die könnte KI generiert sein geht ihr da hin und könnt es da überprüfen es gibt da auch schon,
50 Künstler, die eindeutig als KI-Künstler identifiziert worden sind,
die werden einfach aufgelistet.
Und da habe ich ein ganz mulmiges Gefühl dabei. Das ist ganz anders als im Arbeitsumfeld.
Es gibt sicherlich auch in der Kunst Arbeitsschritte, die einem mit KI abgenommen leichter fallen.
Sobald die aber ins Endprodukt, also ins Kunstwerk reinkommen,
weiß ich einfach nicht, ob das gut ist.
Ich habe mal probiert, Songtexte für meine Band mit JetGPD zu erstellen.
Das fühlte sich einfach komplett falsch an.
Das ist irgendwie nicht meine Kunst. Ich kann das dann zwar selber singen und
dann kommt es aus meinem Mund, aber das ist nicht wichtig.
Es gibt Suno, das ist eine KI, die Musik erstellt, inklusive Gesang.
Es trainiert auf ganz viele verschiedene Musikrichtungen und da kann man auch
sagen, generieren wir mal einen Western-Song mit einer rauchigen Frauenstimme
und dann kommt es da raus.
Und es klingt alles sehr plausibel. Und hier ist vielleicht ganz interessant
der Konflikt, den ich mit Esel und Teddy hatte.
Das ist ein Podcast, den ich sehr schätze. Die machen das seit über 19 Jahren
und ich habe die vor 15 Jahren kennengelernt oder so und seitdem verfolge ich
die, bewerbe sie in allen meinen Kanälen und bin ein großer Fan.
Und ja, ich glaube, wir haben uns sogar ein bisschen angefreundet über die Jahre,
wir haben uns ein paar Mal gesehen und wir schätzen uns gegenseitig schon,
so, und das fühlt sich gut an. So, jetzt gab es aber zum 19.
Geburtstag eine Episode, wo Teddy für Esel ein Click-Adventure,
gevibe-codet hat. Also einfach auch mit Cloud, glaube ich sogar,
irgendeine KI, hat er halt gesagt, hier, ich brauche ein Click-Adventure als
Web-App und hat dann quasi zum 19.
Geburtstag ein Click-Adventure gemacht und Esel hat das dann in der 19.
Geburtstagsepisode durchgeklickt.
Während dieser Episode lag Teddy sich kaputt und sagt, das ist ja lustig,
diesen Dialog hatte ich selber noch nie gelesen.
Das heißt, er hat nicht nur das Click Adventure generieren lassen,
sondern auch die Dialoge generieren lassen und einige davon nicht mal gegengelesen,
bevor er es Esel zum Spielen gegeben hat.
In dem Moment habe ich die Episode
ausgemacht und wollte sie nicht weiterhören. Mich hat das geärgert.
Das war für mich eine Überschreitung.
Also ja, ich weiß, dass Esel und Teddy auch schon vorher KI genutzt haben,
um irgendwelchen Inhalt zu generieren, den sie dann in der Episode benutzt haben.
Das hatte mich bisher nie gestört, weil das waren immer so, na,
als Hilfsmittel, ich lasse mir mal hier, was weiß ich,
die haben ja immer so Ranglisten, die zehn besten Dosen oder irgendwelche Quizzes
oder so haben sie sich dann mal auch Content generieren lassen und den dann
verwendet und irgendwie fand ich es nie richtig schlimm.
Es waren immer Abkürzungen, Prozessoptimierungen, die ihnen geholfen haben,
ihren Content zu generieren.
Das war für mich okay, aber das war jetzt so, nee, also,
danach habe ich dann Teddy angeschrieben und gesagt, ja, schade,
ich muss das ausmachen, ich kann es nicht zu ändern.
Und habe dann auch das Wort bocklos verwendet, worüber er sich sehr es hat ihn
sehr verstört, geärgert, weiß ich gar nicht mehr.
Er hat sich nicht beschwert, hat sich für das Feedback bedankt und sich da gefreut,
aber er hat auch gesagt, so bocklos, sieht er nicht ein, denn er hatte sehr
viel Zeit reingesteckt und er hatte sehr viel Bock und für ihn ist das Ergebnis auch toll.
Er hat es sehr genossen, auch die Stellen, die er vorher noch nicht gegengelesen
hatte, weil der Spirit, den er der KI mitgegeben hatte, dann durchaus rübergekommen ist.
Und ja, ich meinte bocklos aber anders, denn wenn ich.
Großen Wert auf das lege, was ich erzeuge als Kunst oder als Beitrag zu einem
Werk, wo es eine Schöpfungshübe gibt und wo ich etwas erstellen möchte,
dann schaue ich mir das alles vorher an.
Das ist ähnlich wie im Arbeitsumfeld.
Ich hau doch nichts raus, was ich nicht vorher intensiv begutachtet habe.
Und wenn ich KI benutze, um irgendwas abzukürzen, was sonst nicht möglich wäre
oder so, dann muss ich trotzdem mir das alles angucken. Und wenn man das nicht
macht, das fand ich halt bocklos.
Und das hat er dann, als wir auf dem Podstock das nochmal durchdiskutiert haben,
hat das dann auch verstanden.
Aber auf einen Nenner gekommen sind wir halt trotzdem nicht,
denn er findet das trotzdem durchaus legitim, das immer noch eigene Kunst zu nennen.
Was ich zu dem Zeitpunkt von diesem Konflikt noch nicht wusste,
war, dass Esel und Teddy ein Musical vorbereitet haben.
Das lief zu dem Zeitpunkt, als die 19. Geburtstagsepisode natürlich schon kam.
Und naja, es ist ein Musical, da ist Musik drin.
Sie haben aber natürlich keine Band. Ich meine, es ist sicher auch schwierig,
eine Band oder Musiker zu finden, die mal eben die Musik für ein Musical schreiben
und einspielen, nur damit zwei Podcaster auf dem Podstock Spaß haben können.
Das ist vollkommen klar.
Das heißt, ohne Suno, ohne eine KI, die Musik erstellt, wäre das nicht gegangen.
Und das Musical ist mittlerweile veröffentlicht. Ihr könnt euch das anhören.
Ist auf YouTube, glaube ich, auch schon.
Zumindest ist es in der Podcast-Episode erschienen. Und es gibt eine Episode
danach, wo sie mit Leni, die als musikalische Leitung dieses Musical begleitet
hat, besprechen, wie das alles gelaufen ist.
Und das habe ich mir durchaus angehört. Also ich habe sowohl das Musical auf
dem Podstock mit angesehen. Es hat übrigens echt sehr viel Spaß gemacht, mir das anzugucken.
Ich hatte da sehr viel Freude. Und ja, diese Freude hätte ich nicht gehabt ohne diese KI.
Und ich fand es auch interessant, mir hinterher anzuhören, wie sie mit der KI
an diesem Musical gearbeitet haben.
Denn sehr viel von der Struktur, von den Texten und so, kam natürlich von den
dreien selbst, haben sie sehr viel daran gearbeitet.
Und die Musik ist natürlich trotzdem komplett generiert. Und auch da ist sehr
viel Arbeit reingesteckt worden, Weil natürlich nicht gleich die ersten Songs, die da rausfallen,
wenn man einen Prompt schreibt, schreibt mir bitte einen Song für diesen Text
und in diesem Stil. Das passt dann natürlich nicht gleich.
Teddy hat sowas gesagt wie 600 Songs wurden generiert. Im eigentlichen Musical
sind es dann natürlich immer nur 5, 6, weiß ich gar nicht, wie viele Songs das geworden sind.
Das ist natürlich interessant, aber da kommt jetzt ganz viel zusammen,
weil an dem Abend, als das Musical aufgeführt worden ist, hatte ich sehr, sehr viel Spaß.
Da habe ich auch Fotos gemacht und das war lustig und ergreifend und schön,
Blödsinn und Liebe. Das hat mir wirklich viel Freude bereitet,
wie die beiden, also drei waren ja auf der Bühne, Leni, Isel und Teddy.
Aber Leni kann das, die ist Profi, die weiß, was sie gemacht hat,
kann singen und macht sie das beruflich.
Weiß nicht, zumindest war das durchaus professionell.
Isel und Teddy sind nicht geübte Sänger. Teddy kann ganz gut singen,
aber naja, also halt ganz gut. Nicht gut, ist halt nicht geübt.
Das ist halt nichts, wo er schon Bühnenerfahrung hat oder wo irgendwie ein Training
dahinter steht oder so. Und Isel kann es halt nicht.
Trotzdem kann man sich auf die Bühne stellen und singen und Spaß haben.
Und in dem Umfeld, wo alle einen kennen, also auf dem Potsdok,
das ist halt durchaus eine öffentliche Veranstaltung, können alle hinkommen,
kann man sich ein Ticket kaufen.
Aber alle, die da sind, sind super aufgeschlossen und wohlwollend, sag ich mal.
Also da ist halt kein kritisches Publikum, was irgendwie dann genau guckt,
ob alles irgendwie passt und sitzt und so. Sondern wir haben einfach alle Spaß miteinander.
Und genau da kann man das dann machen und sich das trauen. Und das ist trotzdem
noch eine große Hemmschwelle, die überwunden werden muss.
Aber es geht. Und dann wird es halt gefeiert, weil man sich auch was traut.
Und das habe ich auch. ich habe das gefeiert, weil das war wirklich mutig,
das zu machen und es war großartig, weil alle irgendwie ergriffen und begeistert
waren es hat wirklich Spaß gemacht aber liegt es daran, dass die Musik gut war? Ne.
Das lag halt daran, dass sie sich das getraut haben und dass sie sehr authentisch
dabei waren, wie sie auf der Bühne standen.
Und die Musik war wirklich eigentlich nur so eine Nebensache.
Ehrlich gesagt, mich hat sie ein bisschen genervt, weil ich Musicalmusik immer nervig finde.
Es gibt ganz wenige Musicals und ganz wenige Songs in Musicals, die ich mag.
Das ist halt auch ein Genre, was mir nicht so liegt. so, vielleicht liegt es
auch daran, dass ich da auf die Musik nicht so Wert gelegt habe.
Wenn ich aber auf die Musik Wert legen würde, dann würde ich es schon komisch
finden, dass die eben nicht selbst geschrieben war, dass die auch nur generiert war.
Und das war nicht von Musikern generiert, die gesagt haben, mach hier mal einen
Fünffitteltakt, das wäre ja voll spannend oder mach hier mal die Akkordfolge
irgendwie anders, sondern ich weiß nicht, also vielleicht ist das so bei Teddy,
dass er das weiß, wie Musik eigentlich geschrieben wird.
Ich glaube aber ja nicht und da ist halt einfach generell nochmal generieren,
noch mal, generieren, noch mal. Vielleicht machst du es ein bisschen ruhiger,
machst du es ein bisschen lauter, keine Ahnung was.
Und das ist halt nicht, so wird halt nicht Musik geschrieben.
Also da kommt halt irgendwas raus, was Suno sich dann zurecht, wie heißt das.
Halluziniert, genau, das Wort heißt halluzinieren.
Das sind einfach plausibel Akkordfolgen, plausible Instrumentierungen,
die irgendwie zusammengewürfelt werden und irgendwann ist es halt so,
dass es einem gefällt oder irgendwie nicht.
Und anders als im Arbeitsumfeld denke ich sogar, ja, auch das ist okay,
denn da, wo ich ernsthafte Arbeit erledige, also einen Algorithmus für ein Programm
schreibe, das dann irgendwas tut,
da muss ich halt sicher sein, dass das funktioniert.
Da muss ich halt wirklich verstehen, wie das geht, damit es richtig ist und
nicht kaputt geht und Nutzerdaten löscht oder irgendwie Mist macht.
Bei Kunst muss ich ja nur beurteilen können, ob es mir denn gefällt.
Bei Programmcode, ob der mir gefällt oder nicht, ist eigentlich erstmal egal.
Also ist sogar nicht mal ganz egal, aber da muss er halt richtig sein.
Und bei Musik gibt es halt eigentlich keine richtig und falsch.
Da gibt es halt nur, gefällt mir und passt oder passt nicht.
Und deswegen ist das da schon was anderes als im Arbeitsumfeld.
So, und wenn Esel und Teddy diese Musik für das Musical nicht generiert hätten,
dann hätte es halt das Musical nicht gegeben.
Und das wäre schon schade gewesen, weil das war ja wirklich ein Erlebnis.
Jetzt allerdings im Nachgang sehe ich, dass sie das auf Spotify veröffentlichen wollen als Musical.
Und da denke ich dann auch so, das ist aber nicht das Gleiche.
Also schon das auf YouTube anzugucken. Die Episode habe ich mir übrigens auch
nicht angehört, weil für mich ist das Tolle an dem Musical die Aufführung gewesen, das Dabeisein.
Das können natürlich gar nicht alle haben und ich will das jetzt auch nicht
allen anderen vorenthalten, aber mir die Songs nochmal hinterher anzuhören,
das ist für mich eigentlich überhaupt nicht interessant. Und das ist natürlich
irgendwie auch meine Haltung.
Jeder darf dazu eine Haltung haben, wie er möchte. Ich weiß,
dass viele Fans sich das jetzt schon mehrfach wieder angehört haben, das Musical.
Das ist ja auch okay, wenn sie das an diesen Event erändert.
Oder die Leute, die nicht dabei
waren, haben dann vielleicht einen Eindruck, wie es denn da wohl war.
Aber um die eigentliche Musik zu tun,
Kann es ja gar nicht gehen. Es geht um das Gefühl, dass Esel und Teddy sich
da deutlich aus ihrer Komfortzone begeben haben.
Und natürlich haben sie auch sehr viel dazu beigesteuert. Also es sind die Texte
und Kostüme, die sind ja nicht KI generiert, die Kostüme.
Und wie sie sich auf der Bühne bewegt haben, das war ja nicht KI generiert.
Das war schon alles sehr sehr echt aber es heißt ja nicht ohne Grund Musical,
und nicht Aufführung sondern es geht halt um die Musik und die ist halt generiert
deswegen, ich würde es mir auf Spotify auf gar keinen Fall anhören,
ich finde das auch nicht richtig, das auf Spotify zu veröffentlichen aber das ist meine Haltung,
und wenn Esel und Teddy eine andere Haltung haben, die hauen halt einfach raus
und dann sollen sie es halt einfach raushauen schöne Grüße an dieser Stelle,
also ich nehme euch das alles nicht übel.
Ich hoffe, ihr nehmt es mir auch nicht übel, dass ich das so in einer anderen Haltung habe als ihr.
Aber ich glaube, in der Kunst muss das wirklich auch diskutiert werden.
Wie weit will man da gehen?
Denn, jetzt kommen wir noch zum dritten Punkt.
Es gibt ja nicht nur das Arbeitsumfeld und die Kunst, sondern es gibt auch noch das Alltägliche.
Und da habe ich ganz, ganz große Bauchschmerzen.
Überall wird es auf einmal KI eingesetzt. In jeder Google-Anfrage wird mit KI
geguckt, ob man es noch irgendwie besser darstellen kann.
Und dann wird das immer auch so dieses nervige Slow Reveal, dass dann irgendwie
das so aussieht, als ob da gerade jemand das tippt. Die KI tippt gerade die Antwort.
Also die KI denkt dann auch nach und gibt dann nach und nach so frei,
was sie wohl gedacht hat.
Finde ich super schlimm. Also da habe ich ein echtes Problem mit. Denn...
Das macht es so normal.
LLMs, Large Language Models, was ja eigentlich hinter KI steht,
sind eine super interessante Technologie.
Das ist echt spannend, was die Menschheit so entwickelt hat.
Aber es ist nicht das, wofür die Leute es halten.
Also es wird schon wieder viel zu viel angenommen.
Ich glaube, von dem breitesten Teil der Gesellschaft wird angenommen,
dass das, was aus Chichipiti und anderen KIs in Anführungsstrichen rausfällt,
dass es richtig ist oder echt oder so.
Aber ist es halt nicht. Es ist halt einfach nur eine Heuristik.
Es ist irgendwie wahrscheinlich und plausibel, dass wenn man diese Frage stellt
oder dieses sagt, dass das und das dabei rauskommt. Und das ist einfach falsch.
Anzunehmen, dass das richtig ist. Und wenn man nicht beurteilen kann,
ob das, was da rausfällt, richtig ist, dann sollte man das lieber nicht machen.
Ich kenne Leute, die planen ihre ETF-Börsenanlagestrategie mit Chattipity.
Kann man machen. Aber wenn man überhaupt keine Ahnung von der ganzen Materie
hat, dann halte ich das für äußerst gefährlich.
Es gibt Leute, die lassen sich medizinisch beraten von KIs.
Und Entschuldigung, das ist richtig gefährlich. Nur weil eine medizinische Antwort
plausibel erscheint, ist die noch lange nicht richtig.
Und Ich glaube, dass wir da als Gesellschaft einfach viel zu viel Vertrauen
und Technikgläubigkeit in eine Sache haben, die das eigentlich gar nicht anbietet.
Also der Unterschied zwischen Korrektheit und Klausibilität wird da einfach
nicht verstanden und ignoriert.
Und weil es so natürlich wirkt, wird es einfach angenommen, dass es irgendwie
richtig ist. Und dieser Effekt ist ja nicht neu.
Wir haben doch schon in den 60ern, 70ern, wann hat Josef Weizenbaum Elisa programmiert?
Josef Weizenbaum war ein Informatikprofessor, der hat sogar in Hamburg gearbeitet
an der Uni oder war zumindest mal da. Und...
Der hat die ersten, in Anführungsstrichen, KI-Systeme auch mit einer Heuristik erstellt.
Die waren natürlich viel kleiner, aber Elisa war halt so ein Chatprogramm,
mit dem konnte man chatten, hat superdusselige Fragen gestellt eigentlich.
Aber es wirkte so natürlich, dass die Leute dann doch geglaubt haben,
auf der anderen Seite ist jemand, also nicht alle, aber doch ein Teil der Nutzer.
Und jetzt mit den neueren Large Language Models, die natürlich viel besser sind
als Elisa das hier war, greift das halt wirklich um sich.
Und jetzt völlig wahllos lieber Chat-GPT zu benutzen, um eine Frage zu beantworten,
als in Google eine Suche zu machen und sich dann die Ergebnisse anzugucken,
auf Webseiten zu schauen, die hoffentlich noch von Menschen geschrieben sind und nicht von KIs,
ist halt einfach wirklich gefährlich.
Andererseits, man weiß ja gar nicht
mehr, ob so eine Webseite von einer KI geschrieben worden ist oder nicht.
Es gibt so viel KI-Content im Internet, dass man das eigentlich schon gar nicht
mehr unterscheiden kann, was davon von einer Person, die sich vielleicht auskennt,
geschrieben worden ist und was davon einfach generiert ist.
Und wer das gepromptet hat und ob jemand das Ergebnis überprüft hat,
ist einfach überhaupt nicht klar.
Und deswegen, ich benutze es nicht.
Ich benutze ChatGPT nicht für
lass mal eben rausfinden, wie man eigentlich nochmal das und das macht.
Sondern wenn ich was lernen will, wie man kocht, dann gucke ich auf eine Kochwebseite
oder ein Kochbuch. so gibt es ja auch noch Bücher, so auf Papier.
Wenn ich irgendwas anderes lernen will, weiß ich nicht, suche ich auf YouTube
nach dem Video, das mir das erklärt.
Und wenn ich dann eins finde, wo die Stimme offensichtlich KI generiert,
irgendwelche KI generierten Texte vorliest, es geht, ich ertrage das nicht.
Ich weiß nicht, was das soll.
Denn erstens ist es halt womöglich falsch und damit gefährlich.
Also nicht womöglich gefährlich, sondern es ist einfach gefährlich,
sich darauf zu verlassen. sowas zu konsumieren.
Und zweitens, worüber ich jetzt noch gar nicht gesprochen habe,
was aber ein ganz, ganz wichtiger Punkt ist, ist der ökologische Impact-Einfluss, den es hat.
Das ist also ein Stromverbrauch, ein Wasserverbrauch zur Kühlung der großen
Rechenzentren, der ist einfach unglaublich.
Das kostet so viel Energie, Geld und Wasser, um diese Systeme zu erstellen.
Das Trainieren der Models ist wahnsinnig teuer und aufwendig.
Und das betreiben der Server halt auch. so. Vielleicht ist nicht jede einzelne
Chachibiti-Anfrage wirklich schlimm.
Da wird nicht jedes Mal ein Liter Wasser irgendwie auf den Server gekippt,
damit der kalt wird. Aber in der Menge ist es halt doch.
Deutlich schlimmer, als wenn man ein Buch aufschlägt, um etwas nachzuschlagen,
was man auch so herausfinden kann.
Oder meinetwegen eine Google-Anfrage zu stellen. Aber es gibt ja auch kaum noch
Suchmaschinen, die nicht auch noch eine KI mit drin haben. Es ist also wirklich furchtbar.
Und da muss man sich halt immer fragen, will ich wirklich den Planeten anzünden?
Will ich wirklich die Zukunft von.
Communities, Gemeinden aufs Spiel setzen, in deren Nähe ein KI-Rechenzentrum steht.
Will ich wirklich, dass Elon Musk Millionen Satelliten ins All schickt,
weil er meint, da ist es kalt, da muss man die KI-Rechenzentren nicht so doll kühlen.
Es ist doch alles Wahnsinn. Also dafür sollten wir uns noch nicht die Zukunft verbauen.
Also es ist eh schon fraglich, ob die Menschheit die ökologische Katastrophe,
die sowieso schon passiert, durch die Klimaerwärmung überlebt.
Artensterben ist irgendwie eine echte Bedrohung und mit der Nutzung von KI machen
wir diese Bedrohung einfach nur noch größer und noch schneller.
Und das ist halt wirklich eine Sache, sollte man sich halt zwei bis dreimal
überlegen, ob man sowas einsetzt. Mache ich auch in der Firma.
Ich überlege jedes Mal, wenn ich ein Projekt mit KI umsetzen will,
muss ich das jetzt machen?
Habe ich irgendwie einen anderen Weg, das zu tun? Und ja, natürlich,
wenn ich eine Präsentation mache, kann ich mir auch die zwei,
drei Tage nehmen, die ordentlich zu machen.
Wenn es aber nicht anders geht, weil ich es schnell liefern muss,
um was zu machen dann nehme ich es halt in Kauf, dann mache ich es mal,
das ist diese Ambivalenz,
nicht jede Entscheidung die man trifft, ist richtig aber dann einfach zu sagen,
mir ist jetzt egal ich haue jetzt einfach alles raus, weil ich habe ja zu Hause
auch schon zwei Elektroautos stehen oder so, dann ähm.
Da ist man auf dem Holzweg. Ich finde, man muss jede dieser Entscheidungen immer
wieder bewusst treffen.
Mache ich das jetzt oder nicht? Nehme ich das jetzt in Kauf oder nicht?
Investiere ich das jetzt oder nicht?
Nehme ich in Kauf, dass durch meine Nutzung von KI die Zukunft der Menschheit
wahrscheinlich verkürzt wird oder nicht? Also wie wichtig ist es mir jetzt gerade
und wie intensiv nutze ich es jetzt gerade? Kann ich es vielleicht weniger benutzen?
Sollte man sich, glaube ich, wirklich viel benutzen und Gedanken darüber machen
und darüber hinaus eben sich auch die Frage stellen, benutze ich es richtig?
Also verstehe ich, was die KI mir sagt? Kann ich einschätzen,
ob das, was sie sagt, richtig ist oder gut?
Wie viel Wert lege ich eigentlich darauf?
Also wenn ich ein Musical entwickle und überlege, das hinterher vielleicht auch
auf Spotify hochzuladen, dann ist es vielleicht was anderes,
als wenn ich es nur für einen Auftritt auf dem Podstock mache.
Weil der Auftritt auf dem Podstock, der lebt davon, dass wir da gemeinsam Spaß
haben und dass da wirklich was Tolles auf die Bühne gebracht worden ist.
Das hochzuladen bei Spotify ist aber eine andere Nummer. Das ist dann irgendwie,
auf einmal ist es dann irgendwie langlebig, aus der Konserve irgendwie so und
vielleicht habe ich da ja einen anderen Anspruch dran, als für diesen einen Auftritt.
Also ich mache mit meiner Band, ich mache seit über 30 Jahren,
warte mal, welches Jahr haben wir? 26.
Ich habe 1990 meinen ersten Live-Auftritt gehabt, seit ja, Gott,
oh Gott, 36 Jahren mache ich Live-Musik. So, und,
Mir ist sehr bewusst, dass meine Live-Auftritte, und davon habe ich hunderte
in meinem Leben gemacht, natürlich nicht alle so sind, dass man die auf Spotify
veröffentlichen sollte.
Es gibt ganz wenige Videos, die ich bei YouTube hochgeladen habe,
wo ich dachte, okay, das ist jetzt wirklich so, das will man sich vielleicht
mal anschauen, wenn man nochmal möchte.
Aber niemals irgendwie alles von einer Band.
Es gibt von einer Band einen ganzen Auftritt, der ist sogar nicht mal besonders gut.
Und das ist auch mehr so die Dokumentation. Ich erwarte nicht,
dass ich damit irgendwie Hörer begeisterte, die ich vorher nicht hatte,
sondern das ist quasi für uns, habe ich das da hochgeladen, dass wir uns das
nochmal angucken können.
Und der Link ist nicht versteckt. Aber das ist jetzt nicht so,
dass ich da erwarte, dass da irgendwie noch andere Leute draufschauen oder so.
Weil das für die einfach auch gar keinen Mehrwert hat.
Ja, es ist alles schwierig. Es ist alles ambivalent. Aber ohne sich zu hinterfragen
und ohne vielleicht nochmal zu überlegen, muss ich das jetzt auch noch machen,
muss da jetzt auch noch was ran,
wie oft will ich die KI wirklich fragen, was sie hier tun soll,
wie viele Tokens will ich hier investieren,
halte ich es halt wirklich für fragwürdig.
Und ich wünsche mir, dass wir als Gesellschaft dabei bleiben,
uns an der Haltung zu entwickeln, diese Haltung weiterzuentwickeln.
Die Systeme entwickeln sich sowieso weiter, das kann man ja nicht aufhalten,
aber wie wir als Gesellschaft damit umgehen, das können wir schon beeinflussen
und das geht am besten über eine Diskussion.
Und das hier ist jetzt mein Diskussionsbeitrag mit meiner Haltung in diesem
Haltungsblog. Wenn ihr eine andere Haltung habt, dann ist das gut.
Teilt sie mir gerne mit. Es gibt einen Discord mikfm mikmartha-idakonrad.friedrich-martha slash,
Discord, D-E-S-C-O-R-D. Da könnt ihr euch dann einloggen in deinen Discord und
es gibt da einen Kanal, der heißt Haltung und da kann das gerne diskutiert werden.
Ich freue mich über eure Beiträge.
Und hoffe, dass wir gemeinsam als Gesellschaft besser darin werden mit dieser
neuen Technologie, die wirklich schwer zu begreifen und schwer zu behandeln ist,
dass wir damit irgendwie besser werden. Also, bis die Tage.
@toby "Soll ich euch jetzt Git erklären, ne mach ich nicht" 😉
@ring2 @toby hätte ich sollen? 😉