Nicht Ai wird uns ersetzen, sondern jemand der AI benutzt.
Darüber waren wir uns zumindest bis vor ein paar folgen alle
einig. Und dann kam die AI Devin und
hat so ein bisschen die ganze Software Development Welt auf
den Kopf gestützt, ist nämlich ein KI gestützter Software
Developer und was das Ding kann und wie sich dadurch vielleicht
unsere Jobs verändern werden, darum geht es in dieser Folge.
Und damit herzlich Willkommen zu einer neuen Folge des to do
Developer Podcast, dieses Mal wieder mit dem Thema AI.
Wie soll es auch anders sein, es hört nicht auf, immer wieder
neue Themen, mit denen wir uns beschäftigen dürfen, aber dieses
mal glaube ich etwas was halt über das Hinweg geht, was wir
bisher besprochen haben, also von daher ein super spannendes
Thema, bevor wir mit dem Thema einsteigen, wie immer erstmal
vielen Dank an diejenigen oder die Personen die uns in den
letzten 2 Wochen Kaffee ausgegeben hat und dieses Mal
ist wenn Manuel, deine Mutter, herzlichen Dank für 10 Kaffee
haben wir uns sehr gefreut, das ist klasse.
Danke, Mama süß. Ansonsten vielen Dank für das
positive Feedback zur letzten Folge.
Da haben wir so ein bisschen allgemeiner uns unterhalten zum
einen über das Thema Softwareentwicklung und Software
Eco System in Indien und Deine App Development Geschichte und
den Apple App Store, da haben wir positives Feedback bekommen,
auch wenn es jetzt ein Thema war, jetzt was nicht so extrem
technisch war und was vielleicht die ein oder anderen nur am
Rande interessiert, aber wir haben halt gemerkt auch solche
allgemeinen Themen die rund um die developer Welt sich drehen
sind für euch interessant, von daher werden wir das auch in
Zukunft immer wieder einschieben wenn es da Dinge gibt die ja
wirklich teilenswert und Diskutierenswert finden und
schieben, die dann immer mal wieder zwischen den eher
technischen Folgen ein. Aber dieses Mal geht es um
Thema. Du hast mich drauf aufmerksam
gemacht beim an mir ist es so n bisschen vorbeigegangen, ich hab
die News verpasst als es angekündigt wurde.
Devon AI beziehungsweise die neue Devon KI wurde.
Angekündigt von einem relativ neu gegründeten Unternehmen,
Kognition Labs. Und das Ganze hat relativ viel
Wirbel gemacht in der developer Community, nicht nur, weil das
Unternehmen offensichtlich. Sehr gut finanziert ist schon
jetzt, sondern weil tatsächlich zum ersten Mal der End to End
Developer Workflow komplett durchautomatisiert wird.
Zumindest ist das der Anspruch des Unternehmens und dieser KI.
Und da wollten wir uns mal n bisschen näher mit beschäftigen.
Ja, genau, 12 Tage ist das Ding. Alt ist noch ganz frisch aus dem
Ofen beziehungsweise seit 12 Tagen hat die Öffentlichkeit es
zu sehen bekommen. Und was was ist?
Devin ist im Prinzip NKI Tool. Was?
Einen kompletten, wie malte gerade schon gesagt hat, Ende zu
Ende Developer Lifecycle abdeckt.
Ich weiß nicht, ob ihr euch erinnert, wir haben vor n paar
folgen erstmal über die github Universe gesprochen, das ist
diese große Developer Konferenz von github.
Und da hat der CEO Thomas Domecke ganz am Ende so ne
Vision gezeigt und da hat er irgendwie n issue in einem in
einem Gitterrepository eingestellt und dann gesagt, OK
und jetzt laufen eigentlich so verschiedene AIS los und lösen
lösen den Bug in diesem Issue und dem eine AI hingeht und sich
das erstmal anschaut und einen Plan erstellt was denn gemacht
werden muss. Eine andere schreibt den Code,
eine dritte AI stellt dann irgendwie den Pull Request und
Reviewt den und der vierte AI integriert das dann in den in
die Codebasis und was? Als eigentlich noch nur ein
Konzept war, wirkt fast schon so, als hätte die Firma
Cognition Labs mit Devin sich ja quasi als als Vorlage genommen
und das jetzt gebaut und haben ne sehr kurze aber sehr
eindrucksvolle Demo gezeigt von diesem AI Tool.
Was im Prinzip aus ja verschiedenen Kleinen, ja
Bereichen oder Workspaces entsteht.
Also man muss sich das vorstellen, man man, man, man,
man sieht NAI und die hat eine, also ist ne webbasierte IDI und
die hat eine Shell drin, also eine Kommandozeile mit der sie
interagieren kann, einen Code Editor, einen Webbrowser und ein
Chat Interface und sowas wie die nennen das einen Planer.
Und was diese AI dann kann ist eben Anweisungen die sie
bekommt, in einzelne Schritte herunterbrechen.
Und sehr eindrucksvoll bearbeiten.
Das heißt, wenn ich jetzt zum Beispiel AI sage, Hey, lös mir
dieses oder jenes Problem, dann geht sie hin, klont das
Repository, liest die Read me, versucht das issue was, was sie
vielleicht bearbeiten soll, erstmal zu reproduzieren, also
führt den Code auch lokal auf und schaut auch, ob sie das
überhaupt reproduziert bekommt, macht dann mit Hilfe dieses
Browsers auch wirklich Recherche auf Google Stack Overflow oder
liest Dokumentationen durch diesen Internetzugriff, den es
bekommen hat, generiert. Code in diesem Codeeditor oder
passt Code an, um den zu lösen? Wenn das jetzt nicht sofort die
Lösung ist, auf die man hinaus will in in dem Issue dann, und
das fand ich besonders beeindruckend, dann generiert es
auch wirklich so Debug Statement, das heißt dann dann
führt so Print Line Statements ein für den Code dann immer
wieder aus, schaut sich auf der Kommandozeile die Ergebnisse an
bzw bis zu welchem Punkt die Ergebnisse noch so sind wie das
gewünscht ist. Und Iteriert dann darüber so
lange, bis bis die Ergebnisse erzielt werden oder bis Tests
grün sind oder schreibt auch selber Tests entfernt dann diese
diese Debug Print Line Statements wieder und stellt mir
eine Pull request und committed diesen Code also wirklich Ende
zu Ende wie du gerade gesagt hast und eigentlich exakt das
was ein menschlicher Developer auch tun würde, nämlich mit
Hilfe von einem Browser sich irgendwie Beispiele anzuschauen,
Dokumentation zu lesen, Debug Statements einzufügen.
Also irre beeindruckend. Und deswegen auch so n bisschen
das was ich im Intro meinte mit nicht einer AI wird uns
ersetzen, sondern jemand der oder DAI benutzt.
Ah, also das kommt schon sehr nah daran, zumindest diesen
klassischen developer Zyklus, also das des reinen Codens,
eigentlich Ende zu Ende, ohne menschliche Interaktion zu
lösen. Also ich muss dazu sagen, alle
Videos die ich bisher finden konnte oder gesehen habe kommen
von der Firma selber, von daher grain of Salt.
Man muss halt auch schauen, wie schlägt sich das dann natürlich
mit Anwendungsfällen, wo halt nicht die Firma vielleicht die
Sachen rausgesucht hat, die in der Demo gut funktionieren und
dann veröffentlicht am Ende ist es natürlich genau das was man
dort als Botschaft transportieren will, dass man es
geschafft hat wirklich diesem Ende zu Ende Prozess abzubilden
und man kann glaube ich davon ausgehen, dass es nicht bei
beliebigen Dingen funktioniert und jetzt die Dinge, die Sie
zeigen, Sachen sind wo es halt funktioniert, was ich wirklich
spannend finde, und das ist jetzt in den einzelnen
Komponenten nicht neu, aber ich glaube in dieser
Zusammensetzung. Dass die künstliche Intelligenz
diese Large Language Models, die dahinter stehen, die Werkzeuge
an die Hand bekommen, die in Software Engineer verwendet, das
heißt, ich bekomme mein Code Editor, ich bekomme eine Shell,
wo ich irgendwelche debug Informationen sehe, wo ich halt
das ganze ausführe, ich bekomme einen Browser wo ich meine
Recherche machen kann und ich bekomme irgendwo ein Dokument wo
ich meine Spezifikationen, Spezifikation, runterschreibe
und das finde ich wirklich sehr spannend, dass man diese
klassischen Werkzeuge aus der Software Entwicklung
zusammengefasst hat in ein Tool und dann durch eine clevere Art
und Weise so ein. Feedback erzeugt hat, wo dieses
Large Language Model eines dieser Werkzeuge verwendet, das
Feedback dann in ein anderes Tool reingibt, dann dort wieder
das Feedback in ein anderes Tool gibt und so dann hinter der
Haube immerhin und her springt und so ein automatischen
Feedback Loop erzeugt, der Halt dazu führt, dass wir am Ende
abgleichen können, ist das was das Ergebnis ist, das was am
Anfang in der Spezifikation drin stand und wenn wir halt nicht da
sind, haben wir so ein bisschen so wie im Re Enforcement
Learning, am Ende wird wahrscheinlich das Modell.
Nicht lernen in diesem Prozess, aber dadurch, dass es da diese
Feedback Loops gibt, haben wir da die Möglichkeit, Iterativ an
einer Lösung zu arbeiten und das Halt automatisiert und nicht wie
es bei den bisherigen. Ai Assistant Tools der Fall ist,
dass wir diesen Loop selber machen müssen.
Wir können natürlich auch ein Tool benutzen, was in unserem
Code Editor uns als Developer unterstützt, da gibt es
mittlerweile zahlreiche, aber da müssen wir wirklich diesen Loop
selber. Entsprechend implementieren, das
heißt, ich bekomme irgendwie Input durch die KI, muss diese
testen, muss diese validieren und kann dann mit diesem
Feedback zurückgehen und dann die nächste Iteration starten,
bis ich halt bei dem korrekten Ergebnis ist.
Und da scheinen sie zumindest. Wenn man den Demos und den den
öffentlichen Aussagen der Firma Glauben schenkt, wirklich
geschafft zu haben, diesen Feedback Loop zu automatisieren
und das Halt in einer wirklich beeindruckenden Art und Weise.
Und es gibt ja diesen SW E Benchmark, der halt verschiedene
KI Modelle auf Echtweltprobleme loslässt und schaut, wie können
diese Modelle autonom. Diese Probleme lösen, da sind
zumindest die Zahlen, die uns da Cognition Labs präsentiert,
wirklich beeindruckend, wieviel besser als andere Language
Models dort das ganze System abschneidet.
Wobei ich persönlich der Vergleich ein bisschen unfair
ist, weil deven Ai ist für mich ein Tool, welches halt
irgendwelche LMS im Hintergrund verwendet und die dann Smart
miteinander chained und das dann zu vergleichen mit irgendwie
einem GPT 4, was halt viel schlechter abschneidet ist halt
aus meiner Sicht ein bisschen unfair und natürlich dann um
dieses. Sprachmodell was sie nutzen?
Natürlich ganz viel Tooling Herumgebaut ist und man dann
tatsächlich ein fertiges Werkzeug mit irgendwie einem
einfachen Input Output aus dem Sprachmodell vergleicht.
Aber dennoch scheint das so das ganze Thema.
N ganzes Stück nach vorne zu schieben.
Wir sind natürlich da noch nicht bei irgendwelchen Ergebnissen
und da ist glaub ich das Marketing so n bisschen
irreführend sind wir noch nicht an dem Punkt wo tatsächlich die
Aufgaben die wir irgendwo. Normalerweise einen Freelancer
geben über irgendwelche Online Plattformen durch eine KI gelöst
werden können, weil ich glaub die Zahlen die da aus dem aus
dem Benchmark rauskommen sind halt immer noch unter 20% der
Probleme die autark gelöst werden.
Das heißt immer noch ein Großteil der Probleme können
nicht automatisiert gelöst werden, aber selbst diese Zahlen
die da präsentiert werden sind einfach mal so viel besser als
das was wir bisher gesehen haben von diesen einzelnen LMS die
bisher auf die Probleme losgelassen wurden.
Was natürlich die Sache sehr beeindruckend macht.
Ja, total. Also klar, das ist im Moment
alles gated. Es gibt eine Warteliste, auf dem
man sich draufsetzen kann. Ich kenne niemanden, der da
schon Zugriff drauf hat, also das Recht ist natürlich bisher
nur so, die Demos die Firma Rausgibt.
Ich finde aber vor allem. Spannend, dass ich diesen
Denkprozess der KI oder des Tools nenne.
Es nenne es, wie du willst, dass ich den noch mal abspielen kann.
Das heißt, ich kann wirklich sehen, was waren die einzelnen
Schritte. Die diese AI oder diese
Orchestra, da muss man ja eigentlich schon sagen, weil am
Ende natürlich da unten drunter mehrere Tools mehrere AIS
arbeiten, aber diese Schritte, die diese Orchestrater gemacht
hat, für welches Tool hat er sich bei welchem Schritt
entschieden? Ich kann wirklich von der ersten
Mal wo die. Dieses das das github ich schon
sag ich es einfach mal gesehen hat bis hin zur Lösung würd ich
jeden Schritt mir noch mal abspielen lassen und auch diesen
Denkprozess dahinter mir noch mal anzeigen, denn was die AR
macht und das ist einfach n sehr bewährtes Pattern auch schon
wenn man mit Chats, GPT oder irgendwas anderem arbeitet ist
dass sie als allererstes einen Plan erstellt wie das Problem
gelöst werden soll, das heißt es bricht es runter in einzelne
Tasks und sagt Okay wahrscheinlich muss ich zuerst
das machen, dann muss ich erst das machen und so weiter und
komm da vielleicht mit so ner Liste von so 12 schritten ab.
Und entscheidet sich dann für jeden von diesen 12 Schritten
ist das vielleicht was, was ich lieber in diesem Editor mache
oder gehe ich dafür in den Browser und mache mache
Recherche und was kommt dabei raus, was wird dann wieder rein
gefüttert in diesem? Du hast es ebenso so schön
genannt, diese Loop und das kann ich mir eben dann im Nachhinein,
nachdem die das gelöst hat nochmal abspielen lassen, würde
ich mir Schritt für Schritt auch diesen Denkprozess angucken, wo
ich mir auch vorstellen kann, dass man da auch sehr gut als
Mensch von lernen kann, wie di das gelöst hat, also wirklich
welchen, welchen Gedankenweg sie gegangen ist.
Also auch wenn du das hier so bisschen natürlich
richtigerweise jetzt hier relativierst.
Ich bin natürlich so komplett gehypt.
Ich hab jetzt gesehen, hab gedacht, OK, wow, das ist das
erste Mal wo ich wirklich was sehe, was mich also was schon
sehr meine Arbeit als Developer hier auch ersetzen kann und auch
wenn du natürlich sagst, ja. Löst vielleicht auch unter 20%
von diesen Coding Tests. Wie du richtig sagst, im
Vergleich zu einem Chat GPT ist das einfach um ein viel viel
vielfaches mehr und das ist ja auch so der erste Wurf und ich
glaube schon, dass das. Dass das nochmal deutlich höher
gehen kann, diese Zahlen und diese.
Werte an sich sind ja die einzelnen Schritte, die dort
durchlaufen werden, nicht neu. Ich mein, das kennen wir ja
bereits alles, ich kann auch mit einem Chat GPT hingehen und mir
nen nen Action Plan erstellen, kann das in einzelnen
Subaufgaben runterbrechen aber das dann wirklich auszuführen
und dann wirklich die richtigen Tools dafür zu verwenden, das
ist wirklich smart, das finde ich tatsächlich sehr gut, was
halt in den ganzen Demos die sie zeigen so ein bisschen
rüberkommt ist wirklich dieses Vollautonome, aber wenn man dann
in den Videos einfach mal so ein bisschen hin und her springt,
sieht man das ja dann doch in dem Chatinterface.
Gewisse Human in The Loop Intervention in vielen der
Szenarien drin ist, das heißt, einige der Szenarien, die sie in
den Demo Videos zeigen, laufen voll autonom.
Das heißt, ich gebe dem am Anfang eine Aufgabe und Kriege
am Ende eine Lösung raus, aber bei einigen sind natürlich auch
relativ viele Interventionen erforderlich, wo dann das
Sprachmodell auch Rückfragen stellt oder wo ich dann noch mal
präzisieren muss oder eine bestimmte Richtung, also das was
man halt auch aus einem Chat GPS kennt.
Dass man das auch weiterhin tun muss.
Von daher bin ich da vielleicht nicht ganz so gehypt, aber ich
find wirklich diese Kombination und diese Integration von von
Tooling extrem spannend. Ich glaub wir haben das
natürlich zum ersten Mal gesehen, als solche Themen wie
eine Chat AI in die IDE gekommen sind, das ist auch eine erste
Integration von diesem Chat Interface mit einem Tool und wir
sehen halt auch schon Integrationen von.
KIS in die Command Line, vielleicht in Kombination mit
der IDE und jetzt wird das halt einfach noch mal erweitert um
dieses ganze Thema Webbrowser, was wir auch als einzelne
Funktionalität auch schon sehen. Wir sehen das in Chat GPT, wir
sehen das in Microsoft Copilot, wir sehen es in github copilot,
dass wir da auch Internet access bekommen und Informationen aus
dem Netz ziehen können, aber wirklich diese Dinge mal alle
zusammenzuführen und für den Enduser in einer.
Einer Applikation wirklich abzubilden, das ist für mich
wirklich etwas, wo ich sage, da sind Sie mal noch einen Schritt
weiter gegangen und das begründet wahrscheinlich auch,
warum sie da die entsprechenden Investments auch schon relativ
früh bekommen haben. Ich meine, die haben im letzten
Jahr ja schon eine Finanzierung bekommen, durch die durch die
Investmentgesellschaft von Peter Thiel und auch in diesem Jahr
noch eine Investmentrunde, und das ist tatsächlich nicht von
ungefähr, also die haben wirklich eine Vision, die auch
große Investoren überzeugt hat, dort halt auch viel Geld
reinzuschmeißen. Man würde, glaube ich, sagen.
Letzten Herbst war auch so ein bisschen so die Ernüchterung da,
es wurde nicht mehr alles, wo irgendwie KI draufstand mit
Millionen überschüttet, aber hier bei diesem Unternehmen
haben sich die großen Investoren noch mal entschieden im letzten
Jahr und in diesem Jahr nochmal eine große Finanzierung zu
realisieren und das zeigt ja auch, dass Leute, die sich von.
Dem Ganzen eine gewisse, Ja einen gewissen Return erhoffen.
Einen finanziellen Return von diesem Thema überzeugt sind und
von daher bin ich sehr gespannt, in welche Richtung sich das
entwickelt und ich glaub das ganze kriegt so n bisschen den
Realitätscheck. Wenn es dann zum ersten Mal an
Externe gegeben wird, die ist mit ihren eigenen Problemen
benchmarken, weil ja auch bisher bei anderen Tools, so bei dem
ersten Einsatz von Chat, GPT oder Copilot spannend wird es
dann, wenn es wirklich auf die echten Probleme losgelassen wird
und man nicht halt am Ende das Video so schneiden kann, dass es
am Ende gut aussieht, haben wir ja auch in der Vergangenheit
schon bei anderen gesehen, die irgendwie die Videos so
geschnitten haben, damit man sehr beeindruckt ist.
Ich glaube also, Teil des Hypes, vor allem aus der
Investmentseite, warum Investoren Deville Hypen, ist
bei Sicherheit auch der CEO und Gründer, das ist Scott wu.
Der ist in dieser zumindest in dieser Deffelt auch nicht ganz
ein Unbekannter, gilt so ein bisschen als ja wieso ein
Wunderkind? Es gibt so alte Videoaufnahmen
oder irgendwelche Quizshows auch schon als Kind.
Alles abräumen, bevor die Frage auch nur zu Ende ausgesprochen
ist. Also gilt relativ sicher als
hochbegabt und hat auch so bei verschiedenen Software
Development competitions, da regelmäßig die ersten Plätze
belegt. Also gilt als einer der
Begnadesten und im Kopfschnellsten Developer
unserer Zeit und das ist mit sich trägt mit Sicherheit auch
nochmal dazu bei, dass wenn so jemand seine Denkweisen es
schafft in eine KI zu übertragen, dass das natürlich
noch mal einen ganz anderen Hype und einen ganz anderen Drive von
Investoren. Erfährt.
Was die aber gemacht haben und was ich doch anders finde als
sowas wie Copilot oder github, Copilot oder was auch immer ist,
dass ich immer das Gefühl habe, dass bei diesen diesen
bisherigen Chat Interfaces auch bei Chat, GPS habe ich das
Gefühl, dass ich als Mensch eigentlich im Driver Seeed
sitze, um bei dieser Co Pilot Metapher zu bleiben und neben
mir als CO Pilot diese AI arbeiten ich dieser AI quasi
aufgabenpaket Rüberwerfen kann Teilaufgaben dann von der AI
übernommen werden und ich aber eigentlich hier orchestriere.
Und was ich bei Devin Anders finde, ist, dass ich das Gefühl
habe, da im Co Pilotensitz zu sitzen, nämlich die AI
orchestriert sich selber. Hat eigentlich n sehr genauen
Plan und braucht mich eigentlich nur für Rückfragen, also
eigentlich genau umgekehrt, dass die eigentlich sagt Ey, ganz
kurz, hier haben wir gerade ein Verständnisproblem oder ist das
das was gemeint ist? Oder kann ich das auch auf die
und die Art und Weise lösen oder möchtest du, dass ich eine ganz
bestimmte Cloud benutze oder was weiß ich?
Aber das ist eigentlich ja nur auf mich zurückkommt, wenn es
mich braucht und sonst im Hintergrund.
Autonom arbeiten kann also. Für mich ist das eher so eine
Umkehr von diesem, von diesem Pattern, was wir bisher mit den
Co Piloten gesehen haben. Ja, ich hatte da so 2 Bilder vor
Augen. Das eine Bild war so ein
bisschen, wieso ein Fahrlehrer, der auf dem Beifahrersitz sitzt
und halt guckt, wie die Person auf dem Fahrersitz durch den
Verkehr steuert und dann im Zweifelsfall intervenieren kann
und natürlich auch Feedback gibt, das andere Bild was ich
vor Augen hatte ist halt über die.
Automatisierung. Oder das Einführen von Robotern
in der industriellen Fertigung. Also wenn ich jetzt so am am
Band stehe und Autos Zusammenschraube in den ersten
Jahrzehnten waren das Menschen und wurde dann immer mehr an
Roboter übergeben und mittlerweile ist es so, dass
dort. Leute am Band entlang gehen und
gucken, ob die Roboter korrekt arbeiten, irgendwelche
Dashboards Monitoren und halt schauen, ob die Qualität stimmt
und dann im Zweifelsfall justieren und intervenieren
können. Aber letzten Endes die.
Körperliche Arbeit wird dann von anderen übernommen.
Das ist trifft es nicht so ganz, weil natürlich hier bei bei
Devon natürlich auch kreative Arbeit automatisiert.
Wird das heißt nicht nur. Genau, nicht nur
fließbandarbeit, aber ich fand so, dass für mich war das das
Bild, wo man tatsächlich daneben steht und guckt, dass alles
korrekt gemacht wird. Das ist wirklich sehr
beeindruckend, wir haben ja auch letzte Woche, glaube ich, das
Video gesehen, wo? Open AI diesen Roboter
vorgestellt hat, und das ist glaube ich, auch ein ähnlicher
Schritt, wo man dann tatsächlich daneben sitzt und man erteilt
einen Auftrag und dann muss man halt nur noch gucken, ob es
richtig ausgeführt wird, ob das Ziel erreicht wird.
Also auf jeden Fall extrem spannend und ich glaube, wenn
ich wirklich in solchen Projekten bin, wo ich in so
einer Sandbox relativ gut arbeiten kann, relativ wenig
externe Abhängigkeiten habe, die haben sich natürlich auch in den
Demos Dingen. Ausgesucht, die sehr unabhängig
von Drittsystemen sind. Wo ich vielleicht keine
Dependencies auf irgendwelche Services habe, die ich dort
einbinde, die irgendwie laufen müssen und wo ich halt auch
nicht im Bestand arbeite, dann funktioniert das wahrscheinlich
vielleicht nicht morgen, aber irgendwie in den nächsten
Monaten sehr gut. Was nicht bedeutet, dass halt
andere Dinge komplett ersetzt werden.
Zum einen wir als Menschen und zum anderen solche KI
Assistenten für die Softwareentwicklung, weil gerade
wenn man im Bestand arbeitet, funktioniert es natürlich nicht,
wenn ich mir jetzt vorstelle, ich arbeite jetzt an dem an
einem riesigen Bestandssystem irgendwie bei Salesforce oder
SAP und muss dort Dinge ändern, da kann ich nicht eine KI drauf
werfen, zumindest auf absehbare Zeit, weil einfach die
Komplexität viel zu groß ist. Von solchen großen
Bestandssystemen und von daher glaube ich.
Ist das im ersten Schritt jetzt relevant für solche
Neuentwicklungen und ich glaube, du hattest gesagt, ja,
vielleicht wird dann in Zukunft so eine Anwendung wie meine
kalendersync App durch eine KI entwickelt?
Meine Anforderungen rein und dann entwickelt die KI meine
Anwendung. Es ist relativ.
Begrenzter Scope es ist sehr autark, ne und man kann es
relativ gut in so einer Sandbox vielleicht auch zusammenbauen
und testen. Da sehe ich da extrem großes
Potenzial. Und du hattest am Anfang gesagt.
Bisher haben wir immer gesagt, wir werden tatsächlich in
Zukunft Menschen sein, die KI einsetzen.
Ist es wirklich langfristig auch so, dass die KI autonom läuft?
Es mag sein, dass wir uns in die Richtung entwickeln, aber ich
glaube, gerade für viele der Arbeiten, die ich zumindest bei
den Unternehmen sehe, mit denen ich arbeite, sind in so großen,
komplexen Bestandssystemen, dass es noch sehr lange dauern wird,
bis man da dann im laufenden Betrieb Änderungen durch eine KI
automatisiert vornehmen kann. Lass mich da gerne überraschen.
Wie gesagt, die Demos die wir jetzt bekommen haben, werden
nicht Hello World Niveau, aber durchaus sehr überschaubar.
Also Dinge wo man dann auch nen menschlichen Entwickler hat, der
das in relativ überschaubarer Zeit lösen kann.
Es waren keine Dinge wo ich gesagt hätte.
Das kriegt jemand mit einer entsprechenden Qualifikation
nicht auch relativ schnell hin, natürlich nicht innerhalb von 10
Minuten, aber vielleicht innerhalb von ein 2 Stunden
schon. Ich glaube nicht, dass das so
lange dauern wird, bis es auch große, komplexe Sachen lösen
kann. Also gerade mit größer werdenden
Token Fenstern bei Large Language Modellen und bei der
Möglichkeit, sich wirklich. Große, also viel Content große
Codebasen zu analysieren und Reinzuziehen kann ich also
glaube kann ich mir nicht vorstellen, dass es daran
scheitert, dass ein System hinreichend komplex ist.
Und ja, wenn ich gut Software schreibe, habe ich ja eh
einzelne Module, die ich vielleicht einzeln testen kann.
Aber das wird sich natürlich zeigen, sobald man da irgendwie
als normalsterblicher mal mit arbeiten kann.
Aber ich kann mir schon sehr gut vorstellen, also ich fand nicht,
dass es nämlich, dass es jetzt nur ganz triviale Sachen und
Neuentwicklungen waren, aber klar, also vielleicht, wenn ich
meine Kalender App hätte das mit Sicherheit schreiben können und
es gab ja auch diese eine Demo, dass es sogar schon so Aufträge
auf Work, das ist sowas wie fiverr, wir haben ja vor ein
paar folgen mal über Firewall gesprochen, das ist sowas quasi
teilweise schon lösen kann, also es war natürlich auch wieder
sehr isoliert, da war jemand der hat auf Work gesagt, Hey ich
brauche jemanden der für mich hier dieses Large Language
Modell lokal zum Laufen bringt, ich komme mit der Doku nicht
klar, hab gar keine Zeit mir das anzuschauen, möchte das aber
irgendwann in meine App integrieren.
Haben diese Demo einfach diese Beschreibung, diese
Projektbeschreibung genommen, in die er in die AR reingeschmissen
und 5 Minuten später hattest du das Ding halt laufen und es hat
ja glaub ich sogar irgendwelche Dependencies gefixt und
geupdatet, weil das ist auch nicht lokal zum Laufen bringen
konnte. Hat dann geschaut woran liegt
das die Fehlermeldung analysiert also ich fand das schon deutlich
mehr als irgendwie einfaches Hello World und gerade als es
dann angefangen hat so Debug Statements dazwischen zu
schreiben hat mich das schon sehr beeindruckt und dachte okay
das ist schon mehr als einfach nur hey generiere mir mal ein
Template. Ja, wobei, am Ende waren es halt
jeweils in den Demos bisher nur ein paar 100 Zahlencode, also
von daher nicht das, was ich als komplexe Software bezeichnen
würde und vor allen Dingen und wir hatten ja mal in der
vergangenen Folge einfach mal allgemein das Thema Large
Language Models generativ AI gesprochen und tatsächlich denkt
man ja immer, das ist eine Intelligenz, die Texte und in
dem Fall ist Text halt Quellcode, versteht, aber am
Ende sind es halt nur Wahrscheinlichkeiten in der.
Worte aufeinander folgen und ich glaub da muss man, um auch
wirklich größere, komplexere Anwendungen mit so einer KI
automatisiert bearbeiten zu können, halt noch mal auch was
die KI Modelle betrifft noch mal einen Schritt weiter gehen, dass
man wirklich zu einem Punkt kommt, wo auch komplexe Systeme
und Zusammenhänge in komplexen Systemen verstanden werden und
nicht nur einfach textanalysiert und generiert wird.
Also wie gesagt, ich bin da noch nicht ganz so gehypt wie du,
aber ich lasse mich da gerne eines Besseren belehren in
Zukunft. Ich finde es immer noch extrem
Smart wieder Dinge miteinander verknüpft werden, genau das was
du gesagt hattest, das halt. Das sprachmodell sich
entscheidet die Bugs Print Messages einzufügen, um dann
halt den Output auf der Konsole zu nehmen, um damit wiederum
vielleicht eine Internetsuche zu machen und dann das Problem mit
den Tipps aus dem Internet zu lösen.
Also genau diese Schritte zu gehen, die wir auch als Menschen
gehen würden. Das finde ich natürlich auch
super spannend, weil das hatte ich bisher auch noch nicht
gesehen, dass man sagt, OK, wir automatisieren das mal so
komplett durch, wie halt auch ein Mensch an eine Problemlösung
rangeht. Ja, ich glaub was, was du gerade
sagtest ist ist spannend diese Komplexität runter zu brechen
auf kleine Probleme, das ist nämlich genau das Pattern oder
sowas was dahinter steckt oder was hinter solchen Anwendungen
steckt, die jetzt. Verschiedenen AIS arbeiten und
zwar ist das n Thema wo ich mich selber gerade reinarbeite und
auch sehr gerne mal in Zukunft ne Folge zu machen würde vom
Podcast und zwar also die in der AI Welt immer das Agents was
eigentlich nichts anderes sind als so Kleine für.
Eine ganz für einen ganz bestimmten Use Case
zurechtgeschnittene AI Anwendung und das sind dann oft entweder
eigene Modelle oder Modelle mit einem ganz bestimmten prompt
davor und danach oder mit Zugriff auf ganz bestimmte APIS
oder native Funktionen links und rechts.
Das heißt, man schreibt sich so kleinere Sachen, die auf einem
kleineren Scope wie zum Beispiel den Googeln von Fehlermeldungen
oder wie zum Beispiel dem Verstehen von von Debugout und
dem daraufhin einfügen von. Print Statements und also sucht
sich dann so kleine Scopes aus und schreibt dann dafür wieso ne
mini AI die das extrem gut kann, die man natürlich auch dann viel
besser testen kann und weiterentwickeln kann und gibt
dann so nem großen Orchestrator wie Devin das jetzt darstellt.
Einfach diese ganzen kleinen Mini AIS an die Hand und sagt
Pass auf, das ist die Aufgabe und du sagst mir jetzt in
welchen Schritten du die Aufgabe lösen willst und von der großen
Liste die ich dir mitgebe sagst du mir jetzt auch welcher ja
welcher sub AI du das quasi delegieren möchtest.
Also welche Mini welchen Agent rufst du denn dafür auf und die
können teilweise kann der Agent dann auch wieder einen anderen
Agent aufrufen und die Arbeiten dann so ein bisschen im
Hintergrund solange weiter bis die Ergebnisse haben.
Du kannst dann die Ergebnisse die daraus zurückkommen wieder
in den nächsten mit Reingeben. Du kannst dich auch dann um
entscheidend sagen, basierend auf dem Ergebnis möchte ich den
zweiten Schritt doch nicht mit dem Agent machen, den ich
ursprünglich dafür vorgesehen hatte.
Und dieses Konzept von Agents, da entstehen auch gerade die
ersten Frameworks drumherum. Sowas wie autogen Auto gpt.
Da arbeite ich mich gerade selber auch rein und finde das
spannend. Und das ist eigentlich somit für
mich die perfekte Spielwiese hier gerade mit der in der
Softwareentwicklung, weil es eigentlich genau klar diese 4
Aufgabenbereiche gibt, die sich hier auch eben mit einer Shell.
Editor nen Browserzugriff und dem Verständnis von dem was zum
gemacht werden muss ja dargestellt haben und ich
glaube, dass wir ganz also ne ganz viel weiß ich nicht, aber
dass wir viel mehr so Anwendungen sehen werden wo AI
mehr ist als einfach nur n Chat der irgendwo an der Seite
mitläuft. Sondern wirklich wo, wo ne
Orchestrierung stattfindet, wo die einen wo der AI native
Funktionen aufruft oder dann Ergebnisse wieder in ne andere
AI steckt und da weiterarbeitet. Und ich glaube dann wird es
richtig spannend und das haben wir jetzt hier gesehen und.
Ja, wie ich finde, sehr beeindruckend gesehen und bin
sehr gespannt, in welche Richtung das geht.
Und da haben wir auch schon öfter im Podcast drüber
gesprochen, was das mit unserem Developer Alltag macht.
Was glaubst du denn, also was ist denn deine Meinung, was was,
was, was glaubst du wie, wie wird generell Ai oder solche
Sachen uns als developer oder unseren Alltag verändern oder
beeinflussen. Ja, ich glaube, zum einen sind
es halt einzelne dieser Bestandteile, gerade halt sowas
wie Agents, die relativ bald unseren Alltag beeinflussen
werden. Man sieht es halt schon
irgendwie, wenn ich so ein Chat GPT Premium Abo habe, kann ich
natürlich auch schon die Internet suche aktivieren und
kann dann halt auch auf aktuelle Sprachbibliotheken zurückgreifen
und kann sagen Hey wie implementiere ich folgende
Funktionen in folgender Version meines Frameworks und dann
passiert eine Internetsuche im Hintergrund, die halt die
aktuelle Version reinzieht und ich bin nicht auf irgendwelchen.
Veralteten Daten und Patterns erste Dinge davon sehen wir oder
sehen wir relativ. Wald.
Ob wir dann wirklich diese komplette End to End
Orchestrierung sehen und wann wir die sehen?
Ich glaub das wird noch n bisschen dauern, insbesondere
für uns. Ich sprech jetzt hier über den
deutschsprachigen Raum. Einfach weil ich weiß, wie wie
konservativ wir in Deutschland an viele Themen rangehen und
wieviel. Ja, allein schon.
Widerstände auch schon bei solchen ersten Tools wie Chat,
GPT oder Copilot existieren und wieviel Vorsicht dort auch an
den Tag gelegt wird. Bei ganz vielen Unternehmen und
ich denk mal die. Die uns zuhört, kennt das auch
aus eurem eigenen Unternehmen? Ich, ich weiß es nicht, wieviel
Prozent von euch, ihr könnt uns ja mal ne Rückmeldung geben, wie
solche KI Tools bisher bei euch in dem Unternehmen schon im
Einsatz sind, aber ich würde vermuten, dass immer noch ein
Großteil, obwohl es jetzt schon seit ein paar Monaten oder
Jahren solche Tools gibt, diese noch nicht im Alltag einsetzen
können und dürfen und von daher denke ich, es wird zumindest für
uns. In Deutschland im
deutschsprachigen Raum noch lange dauern, bis wir das in
unserem beruflichen Alltag einsetzen werden und bis das
auch unseren beruflichen Alltag so massiv verändern wird, wie
wir es vorhin halt auch n bisschen skizziert haben, dass
ich letztendlich an einem Punkt komme, wo ich halt nur noch
derjenige bin, der das Ganze überwacht und kontrolliert, ob
der Prozess richtig durchläuft, das sind, glaube ich, einfach.
Wir auch teilweise zu recht extrem vorsichtig im
deutschsprachigen Raum, weil wir vielleicht extrem hohen
Qualitätsanspruch auch an die Dinge haben, die wir liefern,
weil wir traditionell halt auch in einem Bereich zumindest ganz
viele Software Developer einfach von der Anzahl im
deutschsprachigen Raum halt in einem Bereich unterwegs sind, in
dem du nicht solche Dinge vielleicht übermorgen überhaupt
machen kannst. Wir haben ganz viele Leute, die
sind in der Automobilindustrie und bauen dort Software für
Autos. Würdest du da so eine KI so eine
End TO End Entwicklung machen lassen und wenn ja, wie
integriert ich das mit irgendwelchen Hardware?
Wo das dann drauf getestet und debuggt werden muss.
Also ich glaub da sind wir in der echten Welt jenseits dieser
Silicon Valley Bubble, wo man irgendwelche Webapplikationen
zusammenzimmert noch relativ weit von entfernt.
Aber natürlich werden wir uns in die Richtung entwickeln.
Wir sehen es ja auch bei anderen Tools.
Ich würd jetzt aber nicht erwarten, dass in den nächsten 5
Jahren ich halt in meinem Beruf an einen Punkt komme, wo ich
halt nur noch ner KI zuschaue und sag, ob das richtig oder
nicht richtig ist. Ja, die Frage stellt sich
natürlich, wie lange wir uns das leisten können, uns diesem ja
auch irgendwo produktivitätsgewinn zu
verweigern. Also es gibt natürlich gute und
richtige Gründe, warum wir da vielleicht zurückhaltend sind,
warum wir es in bestimmten Bereichen gar nicht einsetzen
oder wenig einsetzen. Aber die Frage ist ja, wie lange
kann man sich das leisten, weil dieser ne diese
Produktivitätsboost, der ist ja nicht wegzudiskutieren.
Und wenn ich jetzt sage, ich schmeiß da meine Kalender App
rein und kann da in n neues feature in 15 oder 30 minuten
bauen. Anstatt das in 3 Tagen zu bauen.
Dann ist das natürlich erstmal für mich als Indie Developer
spannend, bis das dann irgendwie in Enterprise kommt, ist es
natürlich noch mal n anderer Weg, aber kann ich ja fast schon
mir nicht leisten, dass irgendwann nichts zu benutzen
und auch die Leute, mit denen ich heute spreche, die
eigentlich kein eigentlich kein Chat GPT nutzen dürfen, von
ihrer Firma aus. Ich kenne viele, die das
trotzdem dann tun, also die einfach sagen, es ist trotzdem
ein Positivitätsgewinn, der mein Leben in einer Art und Weise
erleichtert, dass ich möchte das nicht, ich kann das fast schon
nicht mehr ohne. Habe ich Bereiche, wo ich das
nicht möchte und wo? Ich muss natürlich auf den
Datenschutz schauen und ich muss natürlich schauen, wer ist
verantwortlich dafür, was ist wenn, wenn Fehler gemacht werden
wie jetzt in der Automobilbranche, obwohl ne
Menschen auch Fehler machen und da will ich eher gut gute Tests
haben und mir ist fast schon egal ob n Mensch oder ne
Maschine den Code generiert hat solange der diese Tests passiert
aber da stelle ich die Frage stelle ich mir schon, also dass
wir uns dem verweigern können glaube ich nicht.
Dass das jetzt in den nächsten 5 Jahren hier alles aufrollt,
glaub ich leider auch noch nicht, obwohl ich schon relativ
sicher bin, dass in den letzten 2 Jahren da signifikante
Veränderungen sehen werden. Ich glaub vor allem, dass es so
im den Outsourcing und ja near Shoring Markt schon auch
bedroht. Und letzter Punkt, ich glaube
auch, dass sich unsere Rolle, das haben wir ja schon mehrfach
hier im Podcast gesagt, als Software Developer insofern
verändert, dass wir, glaube ich, weiter weggehen werden von dem
Coden hinzu unserer Aufgabe. Das ist, ein Software
Architektur zu machen, vielleicht Freak, Pull request,
die AI gestellt, dazu reviewen die Sinnhaftigkeit oder die
Kapselung und sowas, dass wir solche Dinge.
Überwachen werden so ein bisschen, wie du gesagt hast,
mit der mit der Fertigungsstraße, wo wir jetzt
eher dahin gucken, ob die Maschinen noch alle richtig
arbeiten und und die Aufgaben so erfüllen, wie wir uns das
vorgestellt haben, und dass unsere Aufgabe dann ein bisschen
übergeordneter sein wird. Also vielleicht sind wir als
Software Engineers irgendwann weniger coder und mehr
diejenigen, die die Entscheidungen treffen, sei es
Architektur oder Technologie oder Patterns und sowas, aber
ich glaube. Da ist es halt wichtig, dass
jetzt auch bei diesen Herstellern dieser Tools dann
auch die richtigen Entscheidungen getroffen werden
und wir nicht halt an den Punkt kommen.
Ich schätze jetzt so ein bisschen diese what you See is
what you Get Web Editoren der der frühen Nullerjahre vor
Augen, wo halt niemand mehr den Sourcecode reviewen kann, weil
er halt einfach so obskur und teilweise komplex ist, dass ein
menschliches Review eigentlich unmöglich ist, sondern dass wir,
obwohl wir Dinge halt automatisieren, am Ende etwas
haben, wo man als Mensch überhaupt noch den Überblick
behalten kann, weil. Ne Qualitätssicherung extrem
schwierig ist und man sonst das Ruder dann auch komplett
komplett aus der Hand gibt. Aber ich kann nachher natürlich
dafür sagen, ne schreibt das, also verwende menschliche
Variablennamen und füge da Kommentare ein.
Wahrscheinlich finden AIS unsere Programmiersprachen auch
lächerlich ineffizient, ne, also eine heutige Programmiersprache
ist ja für Menschen gemacht, damit wir verstehen was da
abgeht nachher wenn das durch einen Compiler geht und in
Maschinensprache übersetzt wird, dann ist es ja auch schon
eigentlich nicht mehr lesbar für uns und.
So kann man ja natürlich sagen, Ey, ihr müsst Kollaborativ
arbeiten mit einem Menschen. Das heißt, was ihr da aus, was
ihr ausspuckt, muss natürlich auch vielleicht sogar so
aussehen, als wäre es von einem Menschen entstanden.
Ja, ich glaube, das ist halt durchaus etwas, was wichtig ist.
Wir reden ja jetzt gerade auch im Rahmen der ganzen Regulierung
rund um künstliche Intelligenz häufig darüber, dass KI
nachvollziehbar sein sollte, dass man nachvollziehen kann,
wie bestimmte Entscheidungen getroffen werden.
Und gerade wenn jetzt die. N Stück Software wieso ein KI
System anfängt eigene Software zu entwickeln, dann ist es
natürlich wichtig, diesen Entwicklungsprozess zumindest
theoretisch nachvollziehen zu können, damit man weiß, wie
diese Software auch am Ende entstanden ist.
Und eine dieser Demos, die sie jetzt da bei Coctition Labs
gezeigt hat, war Model Fine Tuning, welches durch Devney
automatisiert wurde und da kommt man dann an diesen Punkt.
Okay entwickelt sich dann irgendwann die KI selber weiter.
Ich glaube wir werden. Und dann ist es natürlich extrem
wichtig, so zumindest in Grundzügen immer noch
nachvollziehen zu können, wie solche Entscheidungen auch
getroffen wurden und warum halt etwas sich in eine Richtung
weiterentwickelt hat. Weil ansonsten sehe ich halt
auch die Gefahr, dass wir dann, wenn es nicht mehr möglich ist,
auch einfach am Ende gerade wir in Europa und Deutschland dann
auch überreguliert werden und dann von solchen Entwicklungen
auch einfach regulatorisch abgeschnitten werden, weil ich
meine, man sieht ja jetzt die ersten Entwicklungen rund um den
AI Act, der glaube ich halt von der Idee her richtig.
Ist, dass man sagt, man muss einen Rahmen schaffen, um das
Ganze irgendwie regulieren und steuern zu können.
Das sagen ja sogar Softwaregrößen aus dem Bereich
KI selbst in den USA, die sagen, OK, wir müssen das ganze Steuern
und müssen da die Kontrolle behalten.
Aber ich glaube, wenn wir halt anfangen, solche Systeme zu
entwickeln, die Halt nicht mehr nachvollziehbar sind, werden wir
halt irgendwann zumindest in Europa davon abgeschnitten
werden. Vermeintlich zu unserem eigenen
Schutz, wohingegen dann vielleicht in anderen Ländern
die Entwicklung umso schneller weiterläuft, weil man sich da
halt nicht um solche Dinge kümmert.
Ja, aber das will ja gar keiner. Also ne, ich will ja trotzdem,
ich will ja, dass das CAI Dinge wo ausspuckt, die auch von einem
Menschen kommen könnten und ich habe natürlich die gleichen
Anforderungen wie ich an menschlichen Developer habe.
Also natürlich muss der Code lesbar und wartbar und
dokumentiert sein, Test und getestet sein und das ist wenn
ich da mit den gleichen Anforderungen angehe, dann finde
ich das schon mal einen guten guten Messer, aber ich.
Meine man kann ja sagen solange. Die Maschine verständlich ist
und gut getestet ist, ist das auch in Ordnung.
Er muss ja gar nicht mehr für die Menschen.
Verständlich sein. Und dann wird es natürlich
schwierig, das Ganze nachvollziehbar zu halten.
Genau also das, das, das dürfen wir nicht machen.
Was haltet ihr denn da draußen davon?
Habt ihr die Devin AI Ankündigung mitbekommen?
Wir verlinken in der Beschreibung von dieser Podcast
Folge auf jeden Fall auch nochmal die Ankündigung und
diese ganzen Videos, auf die sich malte und ich hier heute
bezogen haben, weil die ja schon beeindruckend sind und ich
glaube jetzt auch noch mal gutes Begleitmaterial sind.
Wir hoffen wir haben euch Lust drauf gemacht und ihr könnt uns
ja gerne auch mal in den Kommentaren schreiben ob ihr so
gehypt seid wie ich oder ob ihr das realistisch seht wie der
Walte oder ob ihr vielleicht eine ganz andere Meinung dazu
habt oder was mich würde interessieren wie wirkt das auf
euch macht? Angst oder macht euch das Lust
auf die Zukunft oder sagt ihr, Boah ne geile Zeit Software
Developer zu sein oder Wow, das kommt schon sehr da dran meinen
meinen neuen Job hier gerade zu zu ersetzen.
Ich glaube, dass das Fragen sind, die wir uns ganz viel
stellen werden in auch den nächsten Jahren.
Und sprech bestimmt auch für malte.
Wenn wenn wenn ich da sage, wir sind wahnsinnig gespannt, wie
ihr das seht, lasst da gerne nen Kommentar da oder wir
diskutieren auch super gerne einfach per E-Mail privat mit
euch das nutzen auch richtig viele macht immer großen Spaß
findet ihr ne E-Mail auch in der Beschreibung von der Folge, da
können wir uns gerne mal Eure Meinung schreiben und wir würden
uns da sehr gerne mit euch zu austauschen.
Und wie immer, wenn euch die Folge gefallen hat, lasst uns
gerne positive Bewertungen da oder gebt uns wie Robin Manuels
Mutter gerne einen Kaffee aus. Wir freuen uns auf jeden Fall
sehr. Genau dann bleibt uns auch gar
nicht mehr so viel zu sagen, außer vielen Dank fürs Zuhören.
Wir hören uns in 2 Wochen wieder, denn der To do Cast
erscheint alle 2 Wochen mit neuen frischen developer Themen
wahrscheinlich. Wird das in den nächsten Jahren
noch immer mehr sein? Das ist immer mal wieder ne
Folge um HI Themen, kommt das bleibt wahrscheinlich nicht
nicht wegzudenken, wir schauen aber, dass wir auch n paar non
AI und andere wichtige Themen noch mit rein bringen, von daher
freuen wir uns sehr, wenn ihr in 2 Wochen wieder zuhört, bis
dahin habt ne gute Zeit und schreibt ganz viel kommt solange
ihr es noch selber machen. Könnt bis dahin ciao.
Macht's gut. Ciao.