In dieser Folge sprechen wir über Googles neues AI UI Tool
Stitch, mit welchem Vibe Design die Design Community erschüttert
hat. Wir sprechen über Cursors
Composer Modell, das automatisieren von Cloud Code
Aufgaben in der Cloud und via Smartphone, wir sprechen über
das neue Type Script 60, über Cloud Flares, Dynamic Workers
für deinen AI Code und über die neue Nutzungspolitik für Daten
von github co Pilot. Viel Spaß bei dieser Folge.
Hallo zusammen und ganz herzlich Willkommen zu einer neuen Folge
vom To do Cast, dem deutschen Developer Podcast mit Malte
Lantin, der Strategic Solutions Engineer by Github.
Was das genau ist, da haben wir mal eine eigene Folge zu gemacht
und mit mir Robin Manuel Thiel, ich bin Director für AI und
Cloud beim E Commerce Softwareunternehmen jtl.
Den Podcast hier, den machen wir auch privat in unserer Freizeit
und teilen hier unsere Erfahrungen aber trotzdem aus
echten Kundenprojekten oder diskutieren einfach Themen, die
die Developer Welt bewegen, so wie auch heute.
Wir machen heute eine News Folge, das machen wir alle 2
Wochen fassen wir so ein bisschen die Tech und developer
News der vergangenen 14 Tage zusammen und.
Und dazu ganz herzlich Willkommen und.
Bevor wir in die News einsteigen, natürlich auch
wieder den Dank an euch beziehungsweise dieses Mal an
Chris für einen Kaffee, den du uns ausgegeben hast.
Vielen Dank dafür. Ganz herzlichen Dank, wenn auch
ihr so cool sein wollt wie Chris, dann schaut doch gerne
mal in die Beschreibung von der Folge rein, da haben wir immer
so einen bei mir Coffee Link. Da könnt ihr uns unterstützen,
wenn ihr mögt. Und bei den News starten wir wie
immer und ich glaub das lässt sich nicht vermeiden mit dem
ganzen Thema künstliche Intelligenz und Coding Agents.
Und der erste Coding Agent, den wir hier haben beziehungsweise
das Modell dahinter, welches sie selber entwickelt haben, ist
Cursor und sie haben ihre neue Version des Composer Modells
Composer 2 vorgestellt, welches höher, schneller, weiter, besser
sein soll, zumindest was die eigene Vermarktung betrifft und
die Benchmarks, die sie da vorlegen.
Ja, vor allem günstiger. Also das ist ja glaube ich, so
ein bisschen dafür, Composer zweier bekannt sind ja von
Anfang an noch nicht mit ins Rennen gegangen, jetzt so quasi
Cloud opos damit abzulösen, sondern eher zu sagen, wir haben
ein brutal schnelles Modell, was gut genug ist.
Aber ein Bruchteil davon kostet was irgendwie was du vielleicht
bei Cloud Code oder sowas bezahlst und sind damit auch
relativ erfolgreich eigentlich gewesen, haben da jetzt das neue
Modell veröffentlicht, also die neue Version eigentlich dieses
Modells. Und haben da auch wieder recht
viel Zuspruch dafür bekommen. Es scheint also ganz gut
angekommen zu sein, es gibt aber einen kleinen Twist.
Ja, ich meine, Twist ist eigentlich nicht überraschend,
weil irgendwie glaube ich, niemand geglaubt hat, dass sie
das so From Scratch selber gebaut haben damals.
Und jetzt ist tatsächlich auch öffentlich, dass sie es auf
Basis des Kimi Car 25 Modells aufgebaut haben.
Das heißt, Sie haben da ein Feintuning vorgenommen, haben
dieses Modell weiter verbessert, an ihre eigenen Ansprüche
angepasst und sind damit zu sehr guten Ergebnissen gekommen.
Du hast gerade gesagt, vor allen Dingen ist es schnell und
günstig, aber sie haben auch in den Benchmarks gute Scores
erreicht, zum Beispiel es damit di.
Terminal was sie dort in ihrem Blog erwähnt haben, wo sie sehr
gute Scores haben. Also es ist tatsächlich auch ein
Modell, was gut funktioniert und was ihnen dann vielleicht auch
hilft, ihre Kosten zu reduzieren, weil damit kämpfen
natürlich viele dieser Toolanbieter, dass wir als
Developer eigentlich immer das beste Tool haben wollen und dann
häufig auf Tools zurückgreifen, die für die Anbieter sehr teuer
sind, wo sie vielleicht nicht die Kosten komplett an uns als
Nutzer weitergeben können. Und wenn sie jetzt dort so ein
Standardmodell haben, was für sie sehr günstig ist und dazu
noch schnell und gut, hilft Ihnen das natürlich ihr ganzes
Businessmodell auch zu verbessern.
Aber wie du gerade schon angesagt hast, war jetzt für
viele zwar nicht überraschend, aber jetzt ist es zumindest
transparent, dass sie das nicht komplett selber gebaut haben.
Wobei ich schon so ein bisschen das Gefühl hatte, sich so ein
ganz klein bisschen ertappt gefühlt haben und so ein
bisschen so ein bisschen reingeschaut haben, wieso ein
Kind, was man beim Lügen erwischt.
Also es ist ja auch vor allem dadurch ein bisschen groß
geworden, dass der Druck ein bisschen größer geworden ist,
die Leute gefragt haben, was ist denn das jetzt für ein Modell
hier eigentlich. Dann gab es auch die ersten
User, die irgendwie da ein bisschen tiefer reingetaucht
sind und dann gesehen haben, dass innerhalb des Modells halt
irgendwelche Bezeichnungen auch gar nicht geupdatet wurden und
daraufhin mussten es halt so ein bisschen zugeben, ich glaube,
für Cursor User ist das aber gar nicht schlimm, wie du gerade
gesagt hast, ist ein gutes Modell ist vor allem auch ein
Open Source Modell von Moonshot AI, kann man also selber mal
ausprobieren und habe ich tatsächlich auch schon überlegt,
aber. Ob ich das in meiner Open Claw
Instanz nicht mal mit aufnehme als mögliches Modell im
Hintergrund ist, ich habe gestern $180 in Clawdtokets
verbrannt, als ich versucht habe weiter meine
Reisekostenabrechnung zu automatisieren und dann das am
Ende da wahrscheinlich darauf hinausläuft, dass der Browser
die ganze Gescreenshottet und angesteuert werden muss und das
verbrennt immer wahnsinnig viele Tokens und.
Und ja, hat mein Token Limit auf jeden Fall gesprengt und auch
mein Kost Limit. Bin froh, dass ich, dass ich so
Limit hatte, aber Ergebnis ist, ich bin 180€ ärmer und habe noch
immer keine Reisekosten eingereicht und jetzt versuche
ich da mal. Also Kimi 25 habe ich von vielen
noch aus dieser Open clondern Community gehört, soll da
eigentlich auch sehr gut funktionieren, gerade weil Open
Cloud am Ende ja auch nichts anderes als ein Coding Agent
unten drunter oder zumindest so eine Agent Group angelehnt an
einen Coding Agenten und. Und da werde ich auf jeden Fall
Kimi 25 mal ausprobieren, brauche also keine Kaiser
subscription dafür, sondern kann einfach auch direkt zu Kimi
gehen, weil wieviel Sie da jetzt noch oben drauf gesetzt haben.
Das ist natürlich auch fraglich. Natürlich sagen Sie, dass Sie
das noch mal gefallen tuned haben dies das aber ja, ich
glaube in einem normalen Kimi 225 gibt es zumindest sehr viele
Stimmen aus der Community, die da auch sehr positiv das
aufgefasst haben, gesagt haben, ey.
Kimi 225 ist eigentlich. Ziemlich cool.
Das heißt, auch wenn ich jetzt Developer bin, der jetzt keinen
Cursor verwendet, habe ich ein ähnliches Modell, mit dem Kimi
225 Modell. Da fehlt vielleicht so ein
bisschen das Feintuning, was Cursor hier vorgenommen hat für
ihr Composer Modell, aber ich habe trotzdem die Möglichkeit
auf dieses Modell zurückzugreifen, zumindest bei
den Plattformen die es anbieten oder wo ich eigene Modelle
einbinden kann. Genau das meine ich damit.
Also wenn ich solche Open Code verwende oder irgend sowas oder
auch open claw, ich glaube 10 mal müssen wir es sagen, dass.
Mittlerweile pro Folge ne, Das haben wir da uns vertraglich
zusichern lassen das wir jede Folge 10 mal open claw sagen.
Ich habe das Gefühl ich habe mir das auch bei meinem Privatumfeld
Privatlich zusichern lassen, wenn es euch zu viel wird sagt
mal Bescheid aber genau das war nicht damit, dass ihr vielleicht
einfach wenn ihr Open Code oder irgendwas verwendet, einfach mal
auf Kimi schalten Kimi Car 25 weiß es auch, eigentlich ist
glaube ich ganz cooles Modell. Und dann noch eine weitere
Modell News auch für Developer relevant ist das neue Minimax 27
Modell m 27 und das Besondere hier soll sein, ich konnte es
oder wir können es natürlich nicht nachvollziehen ist, dass
es. Ein Self Improving Modell ist,
das bedeutet jetzt noch nicht, dass es sich komplett selber
weiterentwickelt. Ich glaube in die Richtung wird
es ja tendenziell irgendwann gehen, dass diese Modelle sich
selber weiterentwickeln, sondern es ist vor allen Dingen so
gebaut, dass es so einen internen Feedback Loop hat, das
heißt es schaut selber, wo es besser werden kann und kann dann
im laufenden Betrieb sehr schnell auch eigene Fehler
korrigieren und. Und soll hier gerade sehr gute
Performance liefern, insbesondere wenn ich
unterschiedliche Rollen benötige.
Das Beispiel was jetzt vom Anbieter kam, als sie das Modell
vorgestellt haben, ist, dass sie dort tatsächlich so ein
Produktionsbug innerhalb in wenigen Minuten gefixt haben,
indem sie halt einen Agent hatten, der Halt die Logs
analysiert hat, einen anderen Agent, der das auf den Code
gemappt hat, dann dieses Problem behoben hat und dann den Push.
Des Gefixten Codes durchgeführt hat.
Das heißt, Sie haben da in wirklich sehr kurzer Zeit, wo
vielleicht ein Mensch noch nicht mal sich in die Cloud Konsole
eingeloggt hätte, haben Sie das Problem schon automatisiert
lösen können. Das ist natürlich jetzt in dem
Fall auch natürlich eine Produktwerbung, die dort auf
dieses Modell hinweisen soll, was man damit machen kann, aber
das zeigt so ein bisschen, dass da verschiedene Agenten
miteinander arbeiten und sich gegenseitig Feedback geben und.
Und gerade in solchen Szenarien soll es dementsprechend sehr gut
sein. Wo es auch ganz viele neue
Modelle gibt gerade, und das freut mich persönlich ganz
besonders in diesem ganzen Thema Sprache, also sowohl Speech to
Text als auch Text to speech, ist ja eigentlich eher eine,
würde ich sagen, gar kein Large Language Modell mehr, sondern
wirklich wirklich ein Ki Modell, was, was wir eigentlich auch
schon immer hatten, sie hatten ja schon ganz lange so Speech to
Text und Text to text to sweech Sachen also die sagen Dinge, die
sehr auf einen Use Case abgezielt sind.
Und Q hier hat ja ein neues quasi.
Sie nennen das ASR Model rausgebracht, was sie
treffenderweise einfach nur Transcribe genannt haben und das
ist ein kleines Model was jetzt die alle Benchmarks irgendwie
einmal durchbrochen hat in Richtung Präzision bei der
Texterkennung. Und das ist vor allem für mich
spannend, weil ich rede sehr, sehr viel mit meinem Computer.
Ich habe es ja schon mal gesagt, ich bin sehr einsam und muss
hier mit meinem Computer sprechen oder bin einfach auch
deutlich schneller. Ich habe das Gefühl, ich bin
nach wie vor nicht der beste Tipper, aber ich kann sehr
schnell sprechen, langjährige langjährige Zuhörerin dazu des
Podcast wissen das und ich nutze zum Beispiel bei bei mir die
Speech to Text App, die ich auf meinem Mac benutze, nennt sich
Sotto. Und die hat ein lokales Model,
das ist das Para keat V 3 Modell und das ist schon sehr sehr sehr
sehr schnell und kann quasi lokal bei mir Text to Speech
umwandeln und dieses Modell soll jetzt noch mal deutlich besser
sein von Q hier. Also wenn ihr auch in diesem ja
vielleicht etwas nischigen Rabbit hole seid von Speech to
Text oder eine App baut wo das eine Rolle spielt, weil diese
Sotto App ist von Kitze ich weiß nicht ob ihr den kennt, ist auch
so ein. Eigentlich so ein developer
Influencer, wenn man, wenn man so möchte und der hat natürlich
dann auch eine quasi da eine App drumherum gebaut funktioniert
für mich auch besser als diese ganzen Whisper Flow ähnlichen
Tools, weil ich eben fürs Otto einmal bezahle und nicht
monatlich und das halte ich für sinnvoller, wenn ich das Modell
ja auch selber auf meinem Rechner hosten muss, deswegen
werde ich bei solchen News immer ganz aufgeregt, wenn es so um um
Audiomodelle geht, aber ich kann auch verstehen, wenn das nie
schig ist. Ja, wobei ich glaube, da geht
auch die Reise hin. Und wenn man irgendwelche
Anwendungen baut, wo Anwender Input reinkommt in der
Vergangenheit per Text, weil ich irgendwas, vielleicht auch KI
basiertes baue, dann ist, glaube ich auch in Zukunft die
Erwartungshaltung, dass ich solche Voice to Text
Funktionalitäten drin habe und ich habe auch selber gemerkt,
dass man sich sehr schnell daran gewöhnt.
Also ich mache zum Beispiel, wenn ich irgendwelche Recherchen
mache über Perplexity mache ich die Eingabe in der Regel über
speech to Text manche. Mal unterhalte ich mich auch im
Dialog mit diesen KI Systemen habe ich auch zuletzt mit Chat
GPT ein bisschen gemacht und war dann so ein bisschen frustriert,
als ich jetzt zuletzt die Cloud App ausprobiert habe und gemerkt
habe die können auf Deutsch noch gar keinen Dialog führen und da
habe ich bei mir selber gemerkt, dass das mittlerweile eine
Erwartungshaltung ist. Also sie machen auch Speech to
Text auf Deutsch und das auch nicht schlecht, aber noch.
Nicht so gut. Genau dieses Realtime Modell.
Auf Englisch. Und da soll hier ja auch sehr
gut sein für so realtime Anwendungsfälle.
Also wenn man selber Anwendung in dem Bereich baut definitiv
mal anschauen. Ich merke bei mir selber, dass
da schon die Erwartungshaltung mittlerweile da ist, dass das
funktioniert. Und wenn ihr sagt, Boah, die
beiden, die hier den Podcast machen, das sind ja immer die
gleichen Stimmen, wenn euch so was auffällt, dann ist euch mit
Sicherheit auch aufgefallen, dass wenn ihr auf Social Media
unterwegs seid. Dass dort ganz viele entweder KI
generierte Videos sind oder zumindest Videos mit einem KI
generierten Voice over und das oft einfach dieselben 3 Stimmen
sind vor allem diese sehr tiefe männliche Stimme hört man da
sehr sehr oft, die kommen dann in der Regel alle von Eleven
Labs und ich finde daran erkennt man das fast schon immer.
Also ich werde tatsächlich schon so ein bisschen müde, wenn ich
diese diese Stimme erkenne, diese klar KI generierte Stimme,
dann swipe ich meistens das Video direkt weg oder heute,
weil ich mache das aggressiv diese Stimme zu hören
mittlerweile die. Die ist aber sehr, sehr gut,
zumindest einfach so von ihren ganz reinen Fakten deswegen und
sehr günstig. Deswegen wird sie so viel
genutzt, die kommt von Eleven Labs und es freut mich ganz
besonders, dass wir da jetzt Konkurrenz zu bekommen haben,
denn es geht wieder um ein Audiomodel und zwar hat Mistral
auch ihr Voice AI Modell Open Source und veröffentlicht um
genau mit diesem Eleven Labs Modell zu konkurrieren und.
Und es sieht gerade so ein bisschen aus, als hätte sich
Misstral ein bisschen so auf Voice oder auf Audio
eingeschossen. Sie haben ja auch schon vorher
ein speechotax Modell rausgebracht und scheinen sich
da jetzt gerade neben ihren Large Language Modellen auch so
ein bisschen so eine Nische zu suchen.
Ich habe es ja noch nicht komplett angehört, aber ich
finde es zumindest gut, dass es da auch eine europäische.
Alternative jetzt zu dieser Elendigen Eleven Heftstimme
gibt. Ja, und wo du gerade sagst,
europäische Alternative gerade in Europa und auch in
Deutschland war ja diese Woche das Geschrei groß, als.
Github angekündigt hat, in Zukunft von Free Pro und pro
plus Usern die Daten zu nutzen, um ihre KI Modelle zu
verbessern, sofern man nicht selber aktiv wird und das
deaktiviert. Also es ist nicht verpflichtend,
ich kann einfach in meine Konfiguration gehen, das
ausstellen für Business und Enterprise User ist es sowieso
per Default ausgestellt, aber das war natürlich gerade bei uns
in Deutschland eine riesige Diskussion.
Was mich persönlich zum einen nicht überrascht hat, aber zum
anderen hat es mich überrascht, weil das ja mittlerweile der
Industriestandard ist. Und ich habe auch heute noch mal
so in die Konfiguration reingeschaut.
Bei mir in meinem Cloud Account, da habe ich auch das opt out
gemacht, nachdem ich das ganze installiert hatte.
Also wenn ihr gerade dabei seid und eure Privacy Settings in git
up co Pilot reviewed, schaut auch noch mal in eure ganzen
anderen ai Coding Tools rein, ob ihr das da auch gemacht habt.
Haben, da ist das dann vielleicht ein bisschen anders
benannt. Da heißt das vielleicht helpers,
Improve the Product und da müsst ihr dann da auch das opt out
machen, aber ich habe das Gefühl, das ist vor allen Dingen
natürlich bei uns in Deutschland immer ein ganz heißes Thema, so
das ganze Thema Datenschutz und Datensicherheit.
Ja, auch nicht ganz so Unrecht, aber ich hatte auch sehr viel
Social Media Bass da drumherum gelesen.
Ich meine es klickt sich auch irgendwie gut, es schreibt sich
gut, ich habe es aber auch nicht so ganz verstanden, ich habe es
auch direkt. Von meinem CTO geschickt
bekommen, der gesagt hat, EY, was ist unsere Sicht darauf, wie
haben wir das da irgendwie eingestellt und ich habe ihm
auch direkt so geschrieben. Ey ich glaube Panikmache, weil
uns betrifft das ja gar nicht, wir sind auf einem Enterprise
Plan und ja so still und heimlich wie das dann da
irgendwie angekündigt wurde, war es auch nicht.
Also ich habe für meinen privaten Plan eine e Mail
bekommen, dass dass ich da jetzt automatisch geopt in werde und
ich mich da jetzt wieder outoption muss, war kein
furchtbares Englisch und. Ist ob das so ganz die feine Art
ist zu sagen, ja, du hast dich da schon mal gegen entschieden,
wir haben dich da jetzt mal wieder reingenommen, du musst
dich jetzt wieder zurück, out Open, ich glaube, darum ging es
so ein bisschen in der Diskussion, aber dass das eine
absolute Industriepraktisch ist, stimmt natürlich irgendwo auch,
aber ich finde auch, dass das Thema viel zu aufgebauscht wurde
dafür, dass ich ja, dass es ja nicht irgendwie still und
heimlich irgendwo gemacht wurde, wie es dann überall stand,
sondern ich bin da schon drüber informiert worden, ich habe eine
E Mail bekommen und ich kann mich da wieder out open und wenn
das für euch ein Ding ist, dann. An, wie malte gesagt hat, schaut
auf jeden Fall mal in eurer Getap Co peile und in alle
anderen Coding Agenten rein und trefft da die entsprechenden
Settings. Und dann haben wir noch eine
letzte Erwähnung im Bereich AI Modelle und Tools und hier nicht
größer, schneller, weiter, sondern ein plötzliches Ende.
Und zwar haben wir diese Woche erfahren, dass Open Ai ihr Sora
Projekt, also das Modell dahinter, die API und die App
einstellen wird. Und das kurz nachdem sie ja
diese große Kooperation mit Disney angekündigt hatte und
alle sich darauf gefreut haben, in Zukunft eigene Disney Clips
generieren zu können. Also ich weiß nicht, ob sich
jemand darauf gefreut hat, aber zumindest war es ein großes
Announcement, mit dem sie auch von Disney noch mal Geld
einsammeln wollten für das ganze Projekt, aber jetzt haben sie
anscheinend entschieden ihr Geld woanders zu investieren und
nicht mehr in Video. Generierung und irgendwie AI
slots. Social Media.
Genau Video wird allerdings nicht ganz weggehen aus dem
ganzen Open AI Kosmos, sondern die haben natürlich auch direkt
irgendwie einen Nachfolger Sput oder Sput, also Spud
angekündigt, aber sagen auch selber, dass dieses ganze Sora
Ding hat die ganze Firma 5 bis 7 Milliarden Dollar jedes Jahr
gekostet, einfach nur daran, dass sie diese Modelle da
befeuern mussten. Und ja, wie das Disney Ding
alles ausgeht weiß ich gar nicht.
Die hatten ja diese Partnerschaft, aber bisher auch
eine Milliarde eine Milliarde in Open Air investiert und diese
dieses Investment war aber auch Sora quasi zugeschnitten, ich
glaube da steht sogar der Name Sora irgendwo drin in diesen in
diesen Investment Terms und ob die jetzt einfach das nächste
Modell geupgradet werden oder jetzt leer ausgehen, da ist
glaube ich so ein bisschen out of scope für den developer
Podcast hier aber wenn ihr Sora irgendwo eingesetzt habt, dann.
Müsst ihr euch leider verabschieden.
Dann lasst uns mal von den allgemeinen AI Themen noch
spezifisch in das Tooling reingehen.
Da gab es ja auch diese Woche beziehungsweise letzte Woche
ganz viele News und für mich. Die Top News war eigentlich das
Thema Google und das Vibe Design Tool was sie veröffentlicht
haben und das habe ich auch tatsächlich selber ausprobieren
können und war tatsächlich sehr begeistert dort mal wirklich
meine eigenen Designs machen zu können, weil ich natürlich
völlig unbegabt bin, was das ganze Thema Ui Design betrifft.
Das Ganze heißt. Stitch Man kann es auch in
bestimmtem Umfang aktuell zumindest kostenfrei nutzen.
Und was es so besonders macht, ist, dass wir da mit natürlicher
Sprache ein Ui Design erzeugen können.
Das können wir entweder textuell machen oder wirklich im Dialog,
ich habe ja gerade gesagt, so vielleicht so eine Dialogform
ist mittlerweile der Standardweg und am Ende bekomme ich nicht
nur eine visuelle Darstellung irgendwie meines.
Design Systems, welches ich dort mit diesem Tool entworfen habe.
Ich bekomme tatsächlich ein paar Screenshots, ich bekomme einen
interaktiven Prototypen von unterschiedlichen Seiten und
kann das Ganze dann Agent kompatibel über eine sogenannte
sogenannte Design MD Datei, also als Markdown exportieren und in
meinen Coding Agent reinbringen, der dann genau weiß, wie diese
Anwendung zu designen ist. Das war ja ein bisschen.
Trine and Error in der Vergangenheit wenn man mit
diesen Coding Agents gearbeitet hat und viele der Anwendungen,
die man jetzt irgendwie online sieht, sehen auch irgendwie alle
gleich aus, weil das irgendwelche so Standard designt
sind die auf dem Trainings Set basieren und jetzt kann ich
wirklich sehr einfach mein eigenes Design da reinbringen.
Natürlich kann ich so eine Design MD file auch selber
schreiben, aber ohne dieses visuelle Tool was da
vorgeschaltet ist, was natürlich auch KI unterstützt ist fehlt
einem dann natürlich als Mensch das Verständnis dafür, wie man
das beschreiben muss. Und ich habe zumindest einen
sehr positiven ersten Eindruck davon bekommen.
Ja, ich glaube, Figma zittert da so ein bisschen.
Die haben ja eigentlich, die Sitzen eigentlich auf diesem
Thron drauf, von jaui Design und also ich weiß bei uns in der
Firma wird auch viel Figma benutzt und die Designer da
arbeiten noch viel mit dieser figma, KI Unterstützung und ich
fand die auch immer sehr gut. Aber das, was Google da gezeigt
hat mit Stitch schlägt das ja nochmal um Klassen also das ist
ja wirklich, das ist ja wirklich top Design auf absolutem
Spitzenniveau und dann vor allem dieses Export Feature.
Also ich finde es schon interessant, dass man überhaupt
diese Visualisierung dann in Textform, also so einen Markdown
runterschreiben kann, dass das dann auch funktioniert, sie
haben ja auch demonstriert, dass man das einem Agenten übergeben
kann, natürlich ihrem erstmal ihrem eigenen AI Studio, was sie
gerade so ein bisschen upgraden, das ist wirklich so ein Full
Stack. Softwareentwicklungstool wird
von Anfang vom Design auch so ein bisschen dann zur finalen
Frontend und Backend App und Figmar musste dann natürlich
irgendwie reagieren und hat jetzt quasi auch sich ein
bisschen mehr geöffnet. Und seinen eigenen Canvas jetzt
quasi für alle Coding Agenten freigegeben.
Es gab ja vorher auch schon den Figma MCP Server, dass ich so
ein bisschen Informationen holen konnte, der so ein bisschen
holprig war und sie haben jetzt noch mal angekündigt eine
deutlich bessere Unterstützung für alle möglichen Coding
Agenten zu machen, das heißt ich kann jetzt mit Cloud Code zum
Beispiel einfach programmatisch Designs direkt nach meinen
Teamstandards dann auch erstellen lassen in Figma
selber. Und genau dieses Team Standards
ist ja genau das was Google damit stitches auch so
eindrucksvoll gezeigt hat, dass ich quasi auch so ein so ein UI
Kit oder so was einmal definieren kann und dass dann
diese Dinge wiederverwendet werden und dass das auch alles
aussieht wie aus einem Guss, auch über mehrere Sessions
hinweg und ficken mal versucht euch jetzt natürlich
nachzuziehen, aber das wird auf jeden Fall noch spannend werden,
die haben nämlich jetzt ganz klar auch sehr, sehr gute
Konkurrenz bekommen das. Das einzige was fig mal retten
kann, ist, dass Google das einfach in ein paar Monaten
wieder einstellt wie 50% ihrer ki Tools.
Aber aber wenn das wenn das bleibt, dann hat fig mal hier
gerade ernstzunehmende Konkurrenz bekommen.
Ja, also ohne jetzt das Ganze zu sehr zu hypen.
Also ich war tatsächlich positiv überrascht von meiner ersten
Erfahrung damit, wie gesagt am Ende die Makler und Datei
einfach in in meinem Fall Co Pilots ci importiert, ihm
gesagt, Hey das ist unser Design Framework und tatsächlich dann.
Der erste Prototyp, der sah fast 1 zu 1 so aus wie das, was
vorher von Stitch visualisiert war.
Also ich fand es wirklich vom Ergebnis sehr beeindruckend,
weil. Wir gerade schon über Cloud
gesprochen haben. Auch in Tropic hat eine ganze
Menge neuer Updates rausgehauen für ihren Coding Agenten und
generell ihre ganzen Agenten. Cloud Code kann jetzt erstmal
wiederkehrende Tasks ausführen, das läuft aber nicht auf eurem
Rechner, sondern das läuft über die Cloud Instanz dann von Cloud
Code aus. Also wenn ihr irgendwelche Jobs
habt, die immer wieder anfallen auf einer regelmäßigen Basis,
weiß ich immer, wenn Release ansteht, vielleicht Release in
einem bestimmten Rhythmus oder möchte einmal die Woche durch
den Code gehen und gucken ob es irgendwelche Updates für
Menschen, Dinge gibt oder sowas. Dann kann ich das jetzt machen.
Ich kann Cloud jetzt so recording Tasks geben, was da
glaube ich viel spannender ist ist, dass ich meine Cloud Code
und auch meine Cloud cowork Instanz, also je nachdem ob ich
Coding arbeiten oder vielleicht normale Arbeiten.
Arbeiten auf meinem Computer mache die auf meinem Rechner
laufen jetzt auch übers Handy steuern kann.
Und zwar haben Sie da nicht nur gesagt, dass ich das in meine
App integrieren kann, also in die mobile App von Cloud,
sondern dass sie auch sogenannte Channels öffnen und dass ich
dann zum Beispiel über Telegram oder Discord und vielleicht
kommt auch irgendwann nochmal nochmal whatsapp oder sowas eben
mit der Instanz, die auf meinem Rechner läuft, chatten kann und
wovon das inspiriert ist. Ist uns ja glaube ich allen
klar. Deswegen werde ich den Namen
jetzt nicht noch mal droppen, aber ich finde es ganz spannend,
dass es in diese Richtung geht, weil ich tatsächlich relativ
vielen Leuten eher zu dieser Claw Desktop App Rate, also vor
allem wenn es nicht developer sind für so eki
automatisierungen, weil ich das andere Tool jetzt muss ich doch
mal droppen, Open Claw halt ja sehr sehr mächtig finde ich bin
ja sehr begeistert von wie ihr, merkt aber auch mit jedem
zweiten Update geht da irgendwas kaputt und das ist sehr sehr
fummelig und bei. Bei dieser Cloud Desktop App ist
das alles irgendwie ein bisschen, sag mal userfreundlich
ein bisschen mehr kompatibel und deswegen umso cooler, dass sie
jetzt in diese Richtung gehen, denn mein Hauptanwendungsfall
für diese Agenten ist tatsächlich jetzt, wenn ich
selber nicht vorm Rechner sitze, dass ich dann von unterwegs dem
eine Aufgabe delegieren oder diktieren kann und das geht
jetzt beziehungsweise so heil. Sie haben gezeigt, dass es gehen
wird, so richtig, richtig, da ist das noch nicht, also wenn
ihr jetzt heute eure Cloud App aufmacht und das dann da nicht
findet, dann wundert euch nicht, dann kommt das wohl irgendwie
die nächsten Tage. Aber das ist auf jeden Fall eine
sehr coole Richtung, um die es da geht.
Ja, wobei das musst du mir vielleicht noch mal ein bisschen
näher erklären, was da der Use Case gerade für uns als
Developer ist. Also ich verstehe, verstehe
diese regelmäßigen Aufgaben haben wir auch auf der github
Seite ja gesehen, mit identic Workflows irgendwelche
regelmäßigen identic Tasks die ich laufen lassen möchte, das
verstehe ich. Wir haben in der Vergangenheit
über Remote Coding Agents ja ganz viel gesprochen, sowas wie
Devin, die damit gestartet sind, aber mittlerweile gibt es ja
auch ganz. Viel von anderen Anbietern auch
bei uns Mitglied der Copalet Coding Agent, bin ich sehr
vertraut mit und jetzt kommt Cloud Code mit diesem sehr von
jetzt sage ich es open Claw inspirierten Ansatz um die Ecke
und hier rede ich jetzt nicht mit whatsapp oder Telegram mit
meinem Cloud Code, sondern ich rede über die Cloud App dann
mit. Mit dem System aber das System
läuft ja weiterhin auf meinem lokalen Rechner und jetzt kommst
du wahrscheinlich wieder. Ja, wir haben nur alle den MC
Mini extra schon für Open Claw gekauft und konfiguriert, der
läuft ja sowieso 24 Stunden, aber das ist ja nicht die
Realität bei den meisten von uns, sondern wir haben irgendwie
einen Development Laptop, wir haben vielleicht 2, vielleicht
einen privaten, einen für die Arbeit, aber den klappen wir
irgendwann zu, also wenn ich irgendwie Feierabend mache, dann
mache ich meinen Laptop aus und wenn ich irgendwie.
Von einem Meetingraum zum anderen im Büro laufe, mache ich
den auch in Standby und wechsele den den Schreibtisch und gehe in
den Meetingraum. Und dann wird ja so eine Session
auch unterbrochen und ich käme gar nicht auf den Use Case um
jetzt irgendwie per Smartphone irgendwelche Coding tasks zu
delegieren. Ja, ich glaube für Laptop User
ist das auch nichts. Also zumindest wenn der Laptop
zugeklappt ist, dann funktioniert das natürlich
nicht. Wo es aber.
Ich glaube, das hat 2 Vorteile. Der eine Vorteil ist für mich
ganz klar, ja, natürlich kann ich auch von meinem Handy aus
eine Cloud Session starten, aber je nachdem was ich da machen
will ist diese Cloud Umgebung eben nicht mein Laptop, beim
Coden vielleicht gar nicht so wahnsinnig unterschiedlich oder
vielleicht ist er ab sehr absichtlichen so ein Developer,
der geht im Idealfall auch hin und guckt dass.
Eben die Umgebung nicht abhängig von meinem Rechner ist damit der
Code ausgeführt werden kann, da shippe ich dann auf entweder
einen Bildcontainer mit oder ich habe eine ganz klare Anleitung,
was für die Penancies ich habe oder ich mache das alles über
npm install und dann habe ich habe ich alle Sachen da glaube
ich gar nicht so relevant. Wenn du jetzt aber eher so an
Cloud cowork denkst, also an alles, was jetzt nicht das reine
Schreiben von Code, sondern vielleicht das Bedienen von
deinem Computer, da ist die Cloud Umgebung natürlich schon
deutlich eingeschränkter. Wenn du sagst, ey, ich habe
vielleicht wirklich Zugriff lesezugriff zu meinen E Mails
dem dem Ding gegeben und jetzt fragt mich mein Vorgesetzter
nach irgendeinem Report und ich muss es jetzt aus irgendwelchen
lokalen Files raussuchen oder vielleicht auch mit dem mit den
lokalen Code Dateien zwar sprechen aber auch noch 2 der
andere Datenquellen mit dazu ziehen.
Das ist, glaube ich schon dann was, was noch mal einen
Unterschied macht. Wenn das auf deinem Rechner
läuft versus wenn das irgendwo in der Cloud läuft, das kann ich
schon schon nachvollziehen. Die andere Sache ist natürlich,
es gibt dieses Meme, dass dass du irgendwie aus dem Haus gehst
und dein Laptop noch aufgeklappt mit dir mitnimmst, weil die
Cloud Session noch nicht fertig ist.
Wie gesagt, wenn du einen stationären Rechner hast, dann
gehst du ja aus dem Haus und lässt den da wo der ist.
Und dann kannst du halt theoretisch auch von unterwegs
weiter mit dieser einen Session chatten.
Das geht mit diesem Delegate heute auch schon ein bisschen,
aber für mich ist der Haupt use Case einfach wirklich, dass es
dein Rechner ist und das macht es eigentlich spannend und das
können sie auch jetzt mit diesem mit diesem Computer use machen.
Ja, vielleicht hängt das immer so ein bisschen davon ab, aus
welchem Tool man kommt. Ich habe mich jetzt so ein
bisschen daran gewöhnt, auch diese Cloud Coding Agents immer
mehr zu nutzen, wo man dann auch irgendwie eine Session, die ich
vielleicht lokal gestartet habe, dann in der Cloud fortsetzen
kann, aber das erfordert natürlich, dass ich Zugriff auf
diese meist kostenpflichtigen Cloud Umgebungen habe, dass ich
dort. Irgendwie auch Credits.
Habe meine Repositories irgendwie zugreifbar, sind aus
der Cloud und wenn ich natürlich nur auf meiner lokalen Maschine
mit so einem lokalen Coding Agent arbeite, mag das ein Use
Case sein. Ich habe ihn fürs Coding wie
gesagt noch nicht gesehen, aber das was du gerade beschrieben
hast für andere. Use Cases vielleicht dann doch
sehr relevant in der Zukunft. Wobei, und wir kommen ja nachher
noch mal zu dem Thema Security, gehen da bei mir wieder immer
alle Alarmglocken an, weil umso mehr diese Tools für mich machen
können, umso mehr können sie auch machen und dann habe ich
vielleicht irgendwie 2 völlig. Voneinander getrennte
Fähigkeiten dem Ganzen gegeben. Aber wenn man die miteinander
kombiniert und vielleicht auch irgendwie jemand die Möglichkeit
hat, da irgendwie per prompt Injection reinzukommen,
passieren plötzlich ganz desaströse Dinge auf meiner
lokalen Maschine. Aber da kommen wir ja gleich
noch in dem Security Kontext ein bisschen detaillierter drauf.
Genau. Ich könnte ja aber zum Beispiel
diese Tools dann erstmal auf Approval schalten, also dass ich
jeden to Call approven muss und den kann ich dann von unterwegs
approven. Und das würde ich sagen, ist
schon auch irgendwo ein Produktivitätsgewinn.
Aber ich, ich verstehe schon den Gedanken dahinter und ich
glaube, das war gar nicht weit weg.
Ich glaube, beim reinen Coding ist das jetzt nicht das absolute
Killer Feature, da sind diese Cloud Umgebungen schon sinnvoll,
so brutal teuer sind die jetzt auch nicht.
Also ich mache auch gerne wie diesen Witz, ich habe ich habe
mir für 600,00€ einen MC mini gekauft und jetzt muss ich keine
30€ mehr im Monat bezahlen für für eine Cloud Umgebung.
Da kann ich noch viele Monate lang hätte ich auch Cloud
Umgebung bezahlen können, ohne dass ich selber den Strom und
sowas bezahlen muss. Das stimmt schon, Abo Cloud
Umgebung, aber wo das spannend sein kann, eine Cloud Umgebung
quasi on demand zu spawnen und jetzt wieder ein bisschen mehr
so ein developer lästiges Thema. Ist, wenn diese ganzen Coding
Agenten und jetzt rede ich oder generell Agenten, jetzt rede ich
gar nicht davon, dass das Dinge sind, die an meinem Source Code
arbeiten, sondern vielleicht Agenten, die ich auf meiner in
meiner Applikation in meiner Lösung anbiete, wenn die
irgendwas abarbeiten oder vielleicht wenn die Customer
Phasing sind oder der Kunde da irgendeine Aufgabe gibt, dann
müssen die ja irgendwas tun. Und dieses irgendwas tun, das
ist dann oft laufen die in so einer Agent Group und haben
theoretisch können dann Tools aufrufen, von denen sie wieder
antworten kriegen und das evaluieren und dann gucken ob
sie dem User antworten oder ob sie noch mal in diese Agent
Group einsteigen. Im Extremfall generieren sie
sich sogar selber ein kleines Python Skript um vielleicht
irgendwas zu visualisieren und so und das braucht ja alles
Compute. Und jetzt kann ich mir ein
bisschen überlegen, wo lasse ich denn diese Agents da eigentlich
laufen, weil das sind ja sag ich mal short Living Short Riding
Sessions, die laufen wahrscheinlich maximal eine
halbe Stunde oder irgendwie irgendwie sowas.
Danach möchte ich am liebsten wegschmeißen, also wo kriege ich
denn so eine Umgebung her, weil das muss ja irgendwo laufen, das
braucht ja ein bisschen RAM, ein bisschen CPU und da gehen gerade
ganz viele Cloud Provider auch hin und bieten das fertig an.
Ich kann ja einfach irgendwo irgendwo einen Docker Container
starten und das Wegschmeißen. Da gibt es Open Source Projekte
für viele Cloud Provider, die schon so eine serverless Lösung
haben, machen das und Cloud Flare, die man jetzt ja
eigentlich eher so ein bisschen von dem Netzwerk Layer sage ich
mal kennt, die steigen da jetzt ein und werden eigentlich immer
mehr zum Hyperscale oder zumindest so zum Cloud
Infrastruktur Anbieter habe ich das Gefühl sie haben jetzt
zumindest angekündigt, dass sie. Dynamische Worker für diese
schnelle und vor allem auch sichere AI Code Execution
anbieten kann. Also wirklich.
Du kannst dann quasi in deine Agent Group rein programmieren,
dass ich ein Agent bei Cloud Flaser einen Worker buchen kann,
da führt er dann seinen Kram auf, dann wird er das Ding
danach sofort wieder weggeschmissen und das ist
durchaus relevant. Wir bauen gerade selber bei Jtl
so eine Agent Plattform auf und müssen uns fragen wo wir denn so
Agent generierten Code ausführen und wo da eigentlich dieser
Computer herkommt und. Und das evaluieren wir gerade
und da werde ich jetzt auf jeden Fall dieses neue Dynamic Workers
von Cloud Flare mal mit reinnehmen.
Und wenn wir uns da entschieden haben, ist das glaube ich auch
mal Material für eine ganze Folge.
Ja, und auch vor dem Hintergrund, was wir gerade
schon besprochen haben. Und das Ganze muss natürlich
streng voneinander isoliert laufen, gerade wenn dann
unterschiedliche Kunden unterschiedliche Agenten haben,
wo sie halt per. Ja, prompt Input oder per
natürliche Sprache die Aufgaben reingeben und das jetzt nicht
mehr klar testbarer Code ist und sich dann auch der System prompt
mit dem Code und meinen ganzen. Configurations und dem User
prompt irgendwie vermischt ist das ja potenziell auch
gefährlich und dann muss ich diese Dinge natürlich auch
streng voneinander isolieren und ich denke mal, da wird es in
Zukunft immer mehr Anwendungsfälle auch geben, wo
ich so etwas brauche, insbesondere wenn ich eigene
Agents baue und da haben wir auch noch eine kleine Anekdote
diese Woche mitgebracht und zwar kann ich natürlich auch.
Agents im Microsoft Eco System bauen in diesem Microsoft 365
Eco System, also rund um die breitere Office Welt und die
Microsoft Cloud. Und da gibt es jetzt und da tut
Microsoft nichts anderes als Google, da bringen sie direkt 3
SD KS auf einmal raus, die irgendwie sich alle gleich
anfühlen und anhören und man nicht genau weiß.
Was letzten Endes der Unterschied ist und ich hatte
das nur gesehen, weil du das auch auf Social Media
kommentiert hattest. Sag mal, wie heißen denn die SD
KS? Ja, das ist ganz, ganz wild.
Es gibt das Microsoft Agent 365 SDK, was aber was komplett
anderes ist als das Microsoft 365 Agents Sek, was aber was
komplett anderes ist als das Microsoft Agent Framework, was
was wieder was anderes ist. Das heißt der Hintergrund ist
ist. Ich glaube, wenn ich es
zusammen, wenn ich es zusammen kriege, das Microsoft Agents 360
Five SDK ist dafür da, dass ich Agenten auf der Microsoft
Plattform wirklich mit Code bauen kann, also nicht ob
Foundry heißt das in der in dieser Azure Welt.
Und da gibt es so ein ganzes Governance und Security und
Observability und Enterprise Identity Framework, Domome und
das kann ich mit diesem SEK entsprechen, da gibt es
Microsoft 6365 Agent SEK, Microsoft 6365 ist ja das Re
naming eigentlich von Office 365 also das sind eigentlich eher so
Co Pilot und Teams und alles was ich da irgendwie reinbauen kann
und da gibt es dann das Agent Framework, das hat erstmal gar
nicht unbedingt was mit mit Azure und und der Cloud zu tun,
sondern es ist so ein generelles Multi Agent Orchestractor
Framework in Python oder Dotnet. Was theoretisch überall läuft,
aber ein ehemaliger Kollege von mir, Dennis Zielke, der hat das
auf linkedin gepostet und klargestellt, und ich hatte
irgendwie drunter geschrieben, dass ich das, also, dass
Microsoft ja noch nie gut mit Namensgebung war, aber dass die
Tatsache, dass das Microsoft Agent 365 SDK und das Microsoft
365 Agents SDK 2 komplett unterschiedliche Dinge sind, das
grenzt ja fast schon an. Trolling und ja, also wenn ihr
da verwirrt seid, dann seid ihr ja nicht die einzigen.
Wir verlinken den Post vom Kollegen aber auch mal, der hat
das noch mal genau klargestellt, was wofür da ist.
Also wenn ihr auf der Microsoft Plattform Agenten baut, dann
schaut euch das an, wir machen das wahrscheinlich, also wir
sind bei Jtl in der Microsoft Cloud und deswegen werde ich das
auf jeden Fall auch mal an mein Team schicken.
Das ist ja auch eine ganz gute Überleitung jetzt zu unserem
nächsten Blog, nämlich Security. Und du hast gerade bei diesem
Agent 365 SDK erwähnt, dass diese Agents alle mit einem
bestimmten Security and Governance Framework laufen und
auch eine eigene Identity im Falle von Microsoft dann
wahrscheinlich Endra id Identity kommen und das scheint ja auch
in der Industrie ein ganz wichtiges Thema zu sein.
Zu entscheiden, mit welcher Identität führt so ein Agent
eigentlich Aufgaben aus? Also es ist die Agent des
Nutzers, für den er Aufgaben ausführt oder kriegt er seine
eigene Identität? Und jetzt haben sich auch andere
Anbieter mit dem Thema beschäftigt, unter anderem hat
Cisco angekündigt, dass sie jetzt auch ein eigenes Identity
und Access Management Framework für AI Agents Bauen, damit Halt
immer klar ist, wer ist dieser Agent und führt.
Wen agiert dieser Agent? Gerade weil das Ganze muss
natürlich nachvollziehbar sein und gerade wenn man so
Permission Management macht, möchte ich ja tatsächlich
genauso wie ich vielleicht einen persönlichen Assistenten nicht
mit allen Rechten ausstatten möchte, die ich habe, möchte ich
natürlich meine Agenten nur mit bestimmten Rechten ausstatten,
die speziell für die Aufgaben, die sie übernehmen sollen,
geeignet sind. Ja, die Stimmen werden da ja
immer lauter, dass man irgendwie auch so einen Agenten eigentlich
eine eigene Identität brauchen. Ich war da.
Am Anfang komplett gegen ne, das brauche ich auf gar keinen Fall.
Ich will ja das vielleicht auch gar nicht unbedingt so
transparent machen, ob jetzt eine Antwort oder eine Arbeit
von mir oder von meinem Agenten kommt, der soll in meinem Namen
agieren und jetzt werden diese Dinger immer mächtiger und wir
hatten ja gerade auch schon dieses Thema.
Eigentlich möchte ich dem andere Berechtigungen irgendwie auch
einschränken in dem was er da tun kann, das soll anders sein
als als das was ich als Mensch tun kann und da muss er sich ja
doch irgendwie. Authentifizieren und auch
autorisieren, dass er halt bestimmte Dinge machen kann,
dass ich weiß, wer ist denn hier eigentlich, wer hat denn hier
gerade eigentlich was gemacht und auch wer hat denn gerade auf
das Azure Portal zugegriffen? War das der Robin Manuel als
Mensch oder war das der Open Claw Agent von Robin Manuel?
Natürlich hast du nicht Open Claw die Rechte gegeben in
deiner Firma auf das Azure Portal zuzugreifen, nur als
Clarification falls dein Chef. Zu war ja genau der hat
tatsächlich einen. Wie heißt das?
Ein Service Prinzip bekommen das Halt nur Leserecht hat, weil der
darf durchaus in unserem Measure Portal lesen, aber Änderungen
dafür auf gar keinen Fall machen, die soll über
Infrastructure S Code passieren. Jetzt kann man argumentieren,
eigentlich sollte das ja für mich dann genau dasselbe sein,
eigentlich sollte ich als Mensch das ja dann auch nicht können,
da gibt es auch noch ein paar Ausnahmen, es gibt so ein paar
Sandbox Umgebungen wo wir den Leuten auch erlauben, dass sie
quasi direkt im Measure Portal rumklicken können und nicht
diesen Umweg gehen müssen über Infrastructure s Code wir
unterscheiden dazwischen produktiv und Sandbox
Umgebungen, aber. Worauf ich ein bisschen hinaus
will, dass diese Agent Identität eigentlich irgend so was
dazwischen ist. Ich will nicht, dass sah aus,
als wäre ich das als Mensch gewesen.
Ich will aber auch nicht, dass es aussieht, als wäre das nur
der Agent gewesen. Eigentlich brauche ich so eine
Mischung davon, eigentlich muss ich sagen, diesen Schritt hat
Robin Manuel gemeinsam mit seinem Agenten gemacht oder
irgendwie sowas und wir kennen das ja schon so ein bisschen vom
vom Coden, wenn ich dem Guitar Coop Highlight Coding Agent in
der Cloud eine Aufgabe gebe, dann macht er wirklich den Pull
Request nachher im Namen von diesem Agenten auf.
Wohingegen, wenn ich auf der Kommandozeile mit dem github
Copilot mit CLI oder auch mit Cloud Code oder irgendwas,
irgendwas Code und dann den Polary Quest aufmache, dann
mache ich ja den polary Quest in meinem Namen auf und dann ist es
gar nicht ersichtlich, dass da irgendwie eine KI Agent dabei
war. Wenn ich allerdings die Cloud
Code App in github installiert habe, dann sehe ich zumindest
irgendwie so, dass beide kontributer waren und dass
manche Commits dann von Cloud kommen.
Also es ist noch irgendwie so ein bisschen komisch und da
hängt dann natürlich auch daran zusammen, dass ich.
Ich ja nicht meinen eigenen Poly Request reviewen sollte und wenn
klar ist, dass der Agent nen Poly request aber komplett ohne
mich erstellt hat, dann könnte ich mir überlegen, ob es ja
vielleicht doch sinnvoll ist, dass ich den.
Reviewen darf danach und das freigeben kann wogegen, wenn ich
den Agent komplett autonom das Ding auf meiner Maschine habe
erstellen lassen, dann sieht es auf einmal so aus, als wäre der
Pull Request von mir gekommen, dann kann ich es nicht mehr
eigenständig reviewen, obwohl der einzige Unterschied ja nur
war, ob ein KI Agent den auf meinem Rechner oder auf einem
auf einer Cloud Umgebung zusammengekodet hat und da sehe
ich schon, dass da irgendwas dazwischen so eine
Einheitlichkeit noch irgendwie kommen muss und das andere Thema
ist natürlich das Berechtigungsthema, dass ich
sagen kann, der darf eigentlich. So ein bisschen darf meine
Rechte Erben, also der darf auf keinen Fall mehr als ich als
Person darf, aber darf auf keinen Fall auch all das, was
ich als Person darf, und ich glaube, dazwischen muss man
schon irgendwie so ein Rechtekonzept aufbauen.
Ich interessiere mich gerade sehr für das Thema, wenn ich
diese wirren Gedanken, die ich gerade geäußert habe, mal
irgendwann durchstrukturiert bekomme, dann können wir da auch
gerne mal eine Folge zu machen. Ja, ich glaube, das hängt auch
immer davon ab, wie autark der Agent am Ende agiert.
Und wir haben ja ging ja immer mehr in die Richtung dieser
autonom agierenden Agenten, und deswegen glaube ich wirklich,
dass wir da dieses Identity Konzept und rechte Management
brauchen, insbesondere vor dem Hintergrund, dass diese Agenten
natürlich auch immer mächtiger werden über die zahlreichen
Tools, die sie nutzen, und wenn sie da eigene Entscheidungen
treffen. Ich habe jetzt letztens gelesen,
da gab es eine Geschichte von jemandem, wo tatsächlich der
Agent auf der Cloud Umgebung Schreibrechte hatte und dann.
Wollte jemand in seiner WS Umgebung einfach nur seine
Ressourcen optimieren und Kosten zu sparen?
Aber der Agent hat einfach entschieden komplettes
Kovaniertes Cluster abzuschießen und zu löschen, restlos was er
meinte es wäre nicht mehr nötig, nur leider war das das
Produktionscluster also da sollte man tatsächlich schauen
mit welchen Rechten agiert da so ein System, insbesondere weil
wir diesen Agenten natürlich auch immer mehr Funktionalitäten
über Third Party Tools geben, zum Beispiel über MCP Server.
Und dieser MCP Server natürlich auch ein Einfallstore für
Sicherheitsrisiken sein können. Wobei ich es aus der Theorie
sagen muss. Eigentlich hast du ja schon eine
fehlerhafte Konfiguration, wenn du das Produktionscluster
löschen kannst. Das hat ja eigentlich über PIM
zu gehen und dass du halt, also dass du halt selber irgendwelche
Privileg Rechte erstmal holen musst für eine bestimmte Zeit,
dass das jemand proven muss oder so weiter.
Also wenn du einfach über die Kommandozeile oder im Portal das
Production Cluster löschen kannst, dann ist eh schon
irgendwas fehlkonfiguriert. Nichtsdestotrotz weiß ich
natürlich auch, dass das einfach oft in der Realität anders
aussieht und das ist glaube ich ganz wichtig zu sagen in dem
Moment und deswegen haben ja so viele Leute, glaube ich, auch
Angst davor, einem Agenten so wie Open Cloud Zugang zu ihren
eigenen Systemen zu geben, weil sie eigentlich so ein bisschen
auch wissen, ah, ich glaube ich mein User Account darf ein
bisschen mehr als er sollte. Das ist so ein bisschen
wahrscheinlich auch historisch gewachsen.
Wenn ich irgendwann mal irgendwo bekommen habe, macht das mein
Leben ja auch deutlich leichter, dann versuche ich das auch zu
schützen und nie wieder abgeben zu müssen und sowas und ich
glaube, das deckt dann, das ist ganz gut, das deckt dann
eigentlich auch erst so die Bereiche auf, in denen ich
vielleicht ohnehin mal ran muss, weil wenn ich das Production
Cluster löschen kann, dann kann mir das ja theoretisch auch aus
Versehen passieren und das ist ja eigentlich auch schon ein
Zustand, den ich auf gar keinen Fall haben will.
Aber du hast ja gerade schon mal gesagt, auch gerade in dieser
Welt passiert noch super viel unsicheres.
Also wir haben es ja gerade irgendwie gesehen, hier gab es
gab irgendwie einen Scan von irgendeiner Security Firma, die
haben alle großen MCP Server gescannt und 66% davon hatten
Security Issues, das heißt jetzt nicht, dass die alle
kompromittiert sind und Viren beinhalten, sondern dass es da
auf jeden Fall, dass die nicht 100% safe sind, weil sie
vielleicht irgendwie ja ein bisschen schlampig mit Login
Daten umgehen oder den Token irgendwo unsicher abspeichern
und. Und so ein Kram, das heißt, es
wird wahrscheinlich auch sehr bald irgendwas geben, dass ich
mir überlegen muss, welche MCP Server erlaube ich denn
eigentlich und wie Manager ich das überhaupt auf meinen Geräten
ist wahrscheinlich auch für alle Security Expertinnen und
Experten, die hier zuhören. Das ist das Thema MCP Server
wahrscheinlich eh ein leidiges Thema, wo man jetzt wirklich
auch mal hingehen muss und schauen kann, wie verwalte ich
das, ich weiß nämlich, dass Crowdstrike da auch gerade an
sowas arbeitet, dass ich dass die quasi erkennen, wenn
irgendwelche es geht ja auch um Skills teilweise die auf meinem
Rechner laufen. Dass wir da in eine Welt
reinlaufen, wo wir irgendwie unsere Rechner wieder härter
absichern müssen, weil jetzt da auch Agenten sich drauf
austoben. Ja, ein Projekt, was tatsächlich
jetzt von einer großen Security Vulnerability beziehungsweise
wieder mal von einer Supply Chain Security Attack betroffen
war, war light lm. Auch wenn es jetzt hier wieder
um. Sprachmodelle und AI geht, geht
es glaube ich in dieser Story mehr um die wirkliche Supply
Chain Security Attacke, weil tatsächlich hat es jemand
geschafft sich Zugriff zu diesem Projekt zu verschaffen und dann
dort einen Backdoor in das Projekt reinzubringen, was dazu
geführt hat, dass alle, die dieses Projekt nutzen,
potenziell schadhaften Code auf ihren lokalen Maschinen hatten
und dort auch wieder. Wie auch in der Vergangenheit
bei anderen Supply Chain Security Attacks Secrets
extrahiert wurden. Ich.
Habe bei uns auch so ein bisschen Panik ausgelöst.
Wir nutzen nämlich Light Llm. Wir sind zum Glück nicht
betroffen gewesen, da gab es dann bestimmte Versionsnummern
und wir nutzen es vor allem auch, um intern appi Keys zu
verteilen und auch zu verwalten. Dazu muss man wissen, Light lm
kann beides, ist sowohl so ein AI Gateway als auch eine Library
die ich in meinen Python Code zum Beispiel mit Einbacken kann
um dann mit verschiedenen KI Modellen zu sprechen.
Und das, wie gesagt, Allerhöchste Vorsicht geboten.
Wenn ihr Light LLM nutzt. Wir verlinken den Post, der zum
einen beschreibt, wie das passieren konnte, aber zum
anderen auch beschreibt, welche Versionen betroffen sind und was
man jetzt tun muss. Noch mal in der folgen
Beschreibung, schaut euch das auf jeden Fall an, da gibt es
bestimmte Versionen, da müsst ihr wirklich aufräumen, wenn ihr
die im Einsatz habt, weil da kann es wirklich sein, dass
Credentials verloren gegangen sind.
Da wurde tatsächlich von den Angreifern ein ganz legitimer
Mechanismus in Python verwendet, der Halt dazu geführt hat, dass
sobald du dieses Package installiert hast, du musst es
nicht mal verwenden, Schadcode ausgeführt wurde.
Und das krasse ist, dass Light lm jetzt nicht der Ursprung war,
sondern. Sondern da haben Sie tatsächlich
eine andere Schwachstelle in der Supply Chain von Light Llm
ausgenutzt, um dieses Projekt letzten Endes zu
kompromittieren. Und das war, und da ist so ein
bisschen Ironie auch im Spiel eine Security Company, die halt
einen Security Scanner anbietet als github Action, den
dementsprechend ganz viele in ihrer Ci verwenden, das ist die.
Trivy Github Action und das kommt von ich glaube die Firma
ist Aqua Security und die sind letzten Endes Opfer eines Hacks
geworden aufgrund einer falsch konfigurierten github actions
Umgebung in ihrem Bereich, wo dann letzten Endes Angreifer es
geschafft haben sich auf dieses Repository Rechte zu holen und
damit diese github Action zu kompromittieren, indem sie halt
die Versionsnummern umgeschrieben haben.
Hier nochmal der Hinweis Wer es noch nicht macht der.
Wirklich die Commits zu pin von Git Hub actions und nicht die
Versionsnummern. Und da haben es die Angreifer
geschafft halt diese Version zu ersetzen mit einer schadhaften
Version und das haben sie benutzt um Halt bei Light lm
anzugreifen, die wiederum diesen Scanner verwendet haben in ihrer
CI und das wiederum hat dann dazu geführt, dass Kunden ihre
Daten verloren haben. Die LIGHT LM verwendet haben.
Also da sieht man wirklich wie sich das durch diese komplette.
Software Supply Chain durchzieht und nicht mal Security Firmen
wie in dem Fall die Firma, die diesen trivy Scanner anbietet
davon verschont sind. Wobei sie aus meiner Sicht da
auch so ein bisschen fahrlässig gehandelt haben, weil letzten
Endes die Fehlkonfiguration in ihrer Github actions Umgebung,
die wurde schon Monate vorher von einem automatisierten Scan
geflaggt und es hat sich einfach niemand darum gekümmert das
Umzukonfigurieren und. Und sie haben auch nicht die
Funktionalität in Git Hub Actions verwendet, die seit dem
letzten Jahr, als es schon mal git hub Actions basierende
Supply Chain Attacken gab, genutzt, und zwar nämlich diese
immutable Releases zu verwenden, damit man wirklich diese Release
tags, diese diese Versionsnummern der Git Hub
actions überschreiben kann, haben sie nicht verwendet und
dementsprechend konnte jemand per Force push alle diese
Release tags überschreiben, das heißt sie haben da an 2 stellen
Fehler gemacht, sie haben. Haben nicht die youtube Releases
verwendet und sie haben auch nicht auf diese Warnung
reagiert, dass ihre Umgebung viel konfiguriert ist.
Also wenn es nicht so traurig wäre, würde man sagen okay man
kann sehen was passiert, wenn man nicht auf andere hört, aber
es zeigt halt, dass wir wirklich auf jeder Ebene aufmerksam sein
müssen und nicht mal einer Security Company trauen können,
ohne Halt wirklich sicherzustellen, dass die
Packages, die wir von dieser Firma beziehen, wirklich
unveränderbar sind. Ja, da hat sich Traveyes
wirklich nicht mit rum bekleckert.
Das zeigt ja auch, wie komplex diese Supply Train Attacken
mittlerweile sind. Da blickt ja keiner mehr durch.
Also ich sehe schon auch irgendwie kommen, dass wir als
Industrie das irgendwie entforsten müssen, bestimmte
Standards, so dass man dadurch irgendwann den Github sagen
kann, ich will, dass das ein Secure repo wird und dann wird
einfach entforced, dann musst du einfach.
Diese in youtube Releases verwenden, dann musst du einfach
innerhalb einer bestimmten Zeit auf Findings, zum Beispiel vom
Depender Board reagieren und sowas.
Ich glaube, dass man sonst, sonst musst du ja jedes Mal
irgendwie ein halbes Jahr IT Security studiert haben, um
heute eine sichere Software ausliefern zu können und ich
glaube, dass das so viele Dimensionen hat, dass man das
wirklich irgendwo ja kann einfach bestimmten Praxis
entforcen muss und dass das nicht jede Company für sich
selber entscheiden sollte. Nicht, weil ich jemandem was
wegnehmen möchte, sondern ich glaube, dass da gar nicht jeder
die Skills für hat. Vielleicht an dieser Stelle noch
die Warnung, das hatten wir nicht in den News, weil das war
vor ein paar Wochen, da gab es tatsächlich auch einen anderen
Angriff auf ein anderes Repository über einen AI Agent,
der in der CI lief und da wurde letzten Endes durch einen
Angreifer einfach über das Öffnen eines Github Issues über
eine prompt Injection Attacke der Agent dazu gebracht
bestimmte Dinge auf diesem Repository zu tun, was ja
eigentlich nicht so. Tun soll also hier die Warnung
nicht einfach einen Agenten in so einer ci Umgebung mit
umfangreichen Rechten laufen lassen, wo wir wieder bei dem
Thema von vorhin sind, weil genau das kann zu solchen Supply
Chain Security Attacken führen, weil am Ende vertraue ich
vielleicht deinem Repo, aber wenn du deinen Repo nicht im
Griff hast und dann deine Releases irgendwie überschrieben
werden, dann bin ich nachher kompromittiert.
Und habe eigentlich gar nichts falsch gemacht, weil ich
irgendwie vielleicht dir vertraut habe, was man
vielleicht in deinem Fall tun kann, aber im Falle von vielen
anderen dann auch nicht. Das ist natürlich ein Download,
deswegen starten wir noch mit einer Good News, worauf ihr auf
jeden Fall updaten könnt, ist auf die neue Type Script
Version, die ist da. Type Script 60 ist released
worden, ist jetzt auch kein riesen Release, ist eher ein
Release der sich auf Stabilität konzentriert und auch so ein
bisschen. Ja, die kommende Tipes gibt 7
Versionen dann vorbereitet, die dann ja diesen nativen Go
Compiler haben wird, den wir den wir schon mal angesprochen
haben, adressiert. Also so ein paar, also man nennt
das so ein Bridge Release, das ist eigentlich eher so ein
Zwischenrelease der so ein paar Sachen aufräumt, was ganz cool
ist. Es gibt so ein neues using
Keyword, das kennt man vielleicht für die Leute, die
irgendwie eh schon aus der C shap oder net Welt kommen, habe
ich zumindest deutlich weniger try oder finally.
Statements gibt natürlich, wie in allen von diesen Releases
auch noch mal Performance Improvements und so ein Paar ja
Modernisierungen, aber jetzt nichts, wo irre viel passiert
ist. Hauptsächlich ein paar sauberere
AP IS und so ein bisschen Groundwork für die Type Script,
die Type 7 Version, die ja dann wirklich wahrscheinlich deutlich
aufregender noch mal sein wird, aber wenn ihr type scrypt
Developer seid, dann. Touchscript 60 ist da, und da
sind zumindest im Moment keine Sicherheitslücken bekannt.
Also könnt ihr noch upgraden. Und eine Neuerung ist halt auch
die Umsetzung des neuen Temporal objectes, was auch dazu geführt
hätte, dass wir heute eine Stunde früher aufnehmen und
nicht irgendwie verpennt haben, dass die Uhr auf Sommerzeit
umgestellt wird, weil vielleicht jemand das normale Date object
in Serva Script noch verwendet hat.
Welches? Nicht die Sommer und Winterzeit
berücksichtigt also, wer auf die neuesten Funktionalitäten zum
Zeit und Datumsmanagement zurückgreifen möchte, kann dies
jetzt auch mit Type Script 6 direkt machen.
Zumindest nicht sauber berücksichtigt, wie beim
Umrechnen glaube ich von 2 Daten oder sowas.
Also temporal heißt das Objekt und das ist wirklich als
komplettes Replacement für das Date Objekt gedacht.
Wenn ihr euch also auch die Zeitumstellung hart getroffen
habt, hat gestern dann. Könnt ihr die?
Ich wollte gerade eigentlich sagen, die gewonnene Stunde hier
nutzen um von Date of Temporal zu upgraden, aber ihr habt ja
eine Stunde verloren, das heißt ihr könnt es ja spätestens bei
der nächsten Zeitumstellung im Winter könnt ihr dann euren Code
mal packen und Date rausschmeißen und temporal heißt
das neue Objekt reingucken, wenn euch das interessiert findet ihr
das und alle News, die wir hier besprochen haben, natürlich auch
in der Beschreibung von der Folge und.
Und wir hoffen, die Folge hat euch gefallen.
Wenn ja, dann lasst uns doch gerne eine gute Bewertung da,
wenn ihr auf einer Podcast Plattform unterwegs seid, wo ihr
Däumchen oder Sternchen da lassen könnt, da freuen wir uns
immer oder wir freuen uns immer sehr, wenn ihr uns einen Kaffee
ausgebt, dann findet ihr auch dazu einen bei mir Coffee Link
in der Beschreibung von der Folge.
Und wenn ihr die passende Kaffeetasse zum Podcast braucht,
haben wir auch noch einen Link zu unserem eigenen Shop in den
Shownotes. Da könnt ihr neben der
Kaffeetasse auch noch ein paar andere To do Cast Developer
Produkte erwerben. Sonst hören wir uns nächste
Woche wieder. Der Podcast hier erscheint jede
Woche, jeden Montag mit einer neuen Folge, immer abwechselnd
einer News Folge wie dieser hier oder einer Themenfolge oder
irgendein developer Thema im Detail besprechen und
recherchieren, da freuen wir uns auch, wenn ihr wieder mit dabei
seid. Bis dahin habt ne gute Woche und
schreibt ganz viel Coke. Bis dahin.