Open AI bringt seine Modelle nun auch zu Ada OS, während Sick
eine strenge Anti llm Policy für Contributions einführt.
Cloud Flair erlaubt KI Agenten jetzt, Domains zu kaufen,
außerdem sprechen wir heute über Post Quantum Verschlüsselung,
eine bereits gefixte Sicherheitslücke in github Space
X Stil mit Anthropic und Googles neue Agenten Identitäten klingt
das spannend, dann hört rein. Hallo und herzlich Willkommen zu
einer Nigelnagelneuen Folge vom to do Cast, dem deutschen
Developer Podcast zu einer News Folge, diesmal mit dem Malte,
den habt ihr gerade schon im Intro gehört.
Malte ist Strategic Solutions Engineer bei Github und mit mir
Robin Manuel, Ich bin Direktor für AI und Cloud beim E Commerce
Software Unternehmen Jtl. Den Podcast hier, den machen wir
privat. Reden aber trotzdem hier ganz
viel von unseren eigenen Erfahrungen aus echten
Kundenprojekten und diskutieren aktuelle Themen, die die Tech
Nerd, KI und Developer Welt bewegen und so auch diese Woche
wieder mit einer News Folge, in der wir die Tech und Developer
News der letzten 2 Wochen zusammenfassen.
Und bevor wir in die Themen der Woche einsteigen, wollen wir uns
natürlich wie immer bedanken bei denjenigen von euch, die uns
diese Woche über bei mir Coffee einen Kaffee ausgegeben haben.
Und zwar haben wir diese Woche einen Kaffee von Ulli bekommen
und 3 Kaffee von Borde. Vielen Dank dafür, freut uns
natürlich. Immer sehr und hilft uns
natürlich, gerade am Wochenende zu später Stunde, wenn wir
diesen Podcast aufnehmen, auch noch fit und wach zu sein.
Ganz lieben Dank, wenn auch ihr Lust habt, uns einen Kaffee
auszugeben, dann findet ihr einen Link zu Buy Me a Coffee in
der Beschreibung von eigentlich jeder Folge.
Da freuen wir uns immer sehr und da hilft uns natürlich, wie
malte gerade gesagt hat, gut mit Koffein versorgt zu sein, um die
News zusammenzutragen und darum soll es jetzt ja auch in dieser
Folge wieder gehen und wir fangen an mit denen.
Ai News Was hat sich getan in der ganzen Welt der Modelle und
neuen AI Tools da draußen und es könnte fast schon keine News
Folge sein in dieser Zeit ohne eine News von Open ai.
Die haben nämlich eine ganze Menge neue Modelle rausgebracht,
diesmal handelt es sich aber nicht um klassische Textmodelle,
wie wir sie vielleicht kennen oder wie wir sie vielleicht auch
zum Coden benutzen. Sondern um Audio Modelle.
Und zwar haben Sie Ihre Produktpalette um Realtime Voice
Translation und Streaming Modelle erweitert, mit denen
Developer quasi Applikationen bauen können, die mit Audio
arbeiten. Ja, ich finde es ganz spannend,
gerade weil sie halt auch in diese Modelle jetzt mächtigere
ll MS integrieren. Das heißt in der Vergangenheit
war es häufig so, du musst es erstmal transkribieren und dann
den Text an ein mächtigeres Llm schicken, was die Antwort
erzeugt. Hat und dieses dann wiederum
synthetisieren als Sprache und zurückschicken.
Und jetzt kann halt das Sprachmodell selber auch
wirklich ganz viele komplexe Fragen schon direkt beantworten,
womit man dann natürlich weitere Latenz aus der Interaktion
rausbekommen kann, wenn man das möchte und hier nicht auf eigene
Unternehmensdaten zurückgreifen muss.
Also von daher viele neue Möglichkeiten und ich denke mal
gerade diese spezialisierten Modelle sind vielleicht auch
noch im Bereich, wo Open AI sich dann auch noch besonders
hervortun kann und. Zumindest tauchen sie damit
regelmäßig bei uns in den Podcast folgen auf, wo halt
vielleicht bei anderen Themen, wo es jetzt um Coding geht,
aktuell andere KI Modelle wie ihr aus den vergangenen Folgen
wisst, eher den Ton angeben. Dazu kommt, dass diese Modelle
zwar schon in der Vergangenheit auch immer wieder existiert
haben, allerdings selten so richtig zum Einsatz gekommen
sind. Ihr kennt das vielleicht, man
kann in der Chat GPT App auch so einen Realtime Voice Modus
einschalten und. Und sich dann quasi in Echtzeit,
ohne dass wie Malte gerade gesagt hat, gesagt hat, das
Model, das Transkripieren muss man sich damit unterhalten kann.
Ich habe aber auch schon mal ein 2 Applikationen mit gebaut und
auch wenn das sehr beeindruckend ist, am Anfang fehlt da immer so
ein bisschen Funktionalität bei diesen Modellen, die hinken
eigentlich den großen GPT Modellen immer hinterher.
Zum einen hatten sie ein sehr kleines Kontextfenster von nur
32000 Tokens, das ist jetzt auf 128 Tokens erhöht worden.
Und. 20000. Richtig 128 Tokens wäre
wahrscheinlich nicht mal das Intro von unserer Podcast Folge
gewesen. Richtig 128000 Tokens natürlich
und kann jetzt auch mehrere Tool Calls parallel machen und vor
allem das konnten die vorherigen Modelle nicht.
Wäre das so ein Tool? Call macht so eine peinliche
Stille überbrücken, weil in der Vergangenheit war das dann so,
die Modelle werden ja eigentlich gerade wenn ich zu mir eine
Customer Support App baue dann sinnvoll, wenn der Customer
Support Agent den ich damit baue auch live auf mein Kunden
stammdatenverwaltungstool zugreifen kann oder mir
irgendwie eine Rückerstattung auslösen kann und in der Zeit
haben die Modelle halt immer einfach lange geschwiegen.
Und da ist es halt dann oft irgendwie dran gescheitert, wenn
man sie in der Realität eingesetzt haben, weswegen man
dann doch wieder den anderen Modus gewählt hat, wo ich dann
wirklich das Modell erst aussprechen lasse, dann den
Kunden sprechen lasse, dann ist es aber nicht so natürlich und
das können sie jetzt und zusammen können Sie jetzt auch
live quasi übersetzen, das haben sie auch gezeigt, man kann mehr
oder weniger, wie man das vielleicht auch schon aus der
einen oder anderen Video Call App kennt, sprechen und kriegt
wirklich mehr oder weniger in Echtzeit die Übersetzung dazu
und das ist jetzt alles da, kann man ausprobieren.
Muss man allerdings auch tiefe, tiefe Taschen für haben, denn
das Pricing ist relativ hoch, wenn wir dieses das stärkste von
den Modellen uns angucken, dieses GPT 2 realtime oder ich
glaub andersrum GPT realtime 2 heißt es das kostet schon $32
pro 1000000 Audio Input Tokens. Und dann aber $64 pro 1000000
Audio Output Tokens ist also so über den Daumen gepeilt doppelt
so teuer wie das Allerstärkste Entropy Cloud Opus 4.7 Modell.
Und das ist ja schon unverschämt teuer.
Das heißt der Use Case muss sich hier auch erstmal lohnen.
Ja, ich glaube, du brauchst ja auch um einiges mehr Computer
dahinter und heißt vielleicht auch, wenn ihr wollt, dass open
Ai höhere Ausgaben habt bei eurer Chat gpt subscription,
dann unterhaltet euch einfach regelmäßig mit Chat GPT, aber du
sagst es schon, wenn ich das für die eigenen Anwendungen brauche,
muss ich mich halt entscheiden, brauche ich alle diese
Fähigkeiten die wir gerade besprochen haben oder kann ich
mir ein bisschen Latenz durch eine Transkription etc.
Leisten, dann kann ich natürlich auch wesentlich günstigere
Modelle auch zurückgreifen, auch Modelle die selber betreiben
kann. Also es ist auch ein Abwägen,
gerade bei den eigenen Applikationen und wo wir gerade
über Lnm sprechen und das Thema abwägen.
Ich glaube, das passt ganz gut, dazu hatten wir ja gerade in der
Intro schon gesagt, gibt es jetzt beim Sick Open Source
Projekt eine Anti lnm Policy, das bedeutet, wer dort an diesem
Projekt mitarbeiten möchte, darf keine Large Language Models
verwenden, keine KI Agenten für Pull Requests für issue
descript. Für irgendwelche Bugs, die
beschrieben werden, sondern es muss tatsächlich von einem
Menschen diese Contribution durchgeführt werden, weil sie
halt sagen, wir müssen uns diese Community aufbauen und erhalten
auch für die Zukunft und wenn wir uns den ganzen Tag nur damit
beschäftigen irgendwelchen KI generierten vielleicht auch.
Positiven Beitrag zu reviewen dann können wir uns gar nicht
damit beschäftigen, wer eigentlich diese Community in
Zukunft weiter trägt. Und ich fand diese Analogie, die
dort genannt wurde, mit dem. Vergleicht, dass es ähnlich ist
wie beim Pokern. Also es geht eigentlich nicht um
die Karten, die gespielt werden, sondern es geht darum, mit den
Menschen zu spielen und die Menschen zu lesen und sie sagen
Halt, bei Open Source ist es genauso, wir müssen halt das
Vertrauen zu den Menschen dahinter aufbauen und das können
wir nicht, wenn wir gar nicht wissen, ob diese Menschen
überhaupt unser Projekt verstehen, ob sie halt da auch
positiven Beitrag leisten können und wollen jenseits dieser KI
Beiträge. Ja, das ist das Spannende.
Ein Beitrag kann heute gut aussehen und früher konnte ich
eben nur, wenn ich das Projekt verstanden habe, auch eine
sinnvolle Contribution machen, das ging quasi Hand in Hand und
jetzt weiß ich das halt nicht mehr, weil vielleicht einfach
auch die KI sich was zusammengereimt hat, was jetzt
irgendwie dann eine Contribution darstellt und ich glaube das ist
ein Thema, was wir noch öfter hören werden in Zukunft, denn
rausgekommen oder jetzt rausgekommen ist es eigentlich
nur daraus, vielleicht kurzer kurzer Hintergrund, Sick ist
eine. Ja, würde ich sagen, Recht
nischige Programmiersprache und wahrscheinlich das bekannteste,
was in Sick programmiert ist. Ist Ban, also diese Java Script
Runtime, die jetzt auch zuletzt von Entropic gekauft wurde.
Im Dezember haben die das irgendwie übernommen und Ban hat
aber seinen eigenen Fork von Sick und sagt, dass sie da auch
jetzt letztens eine 4 mal schnellere Performance
rausgeholt haben. Durch irgendwelche Optimierungen
können das jetzt aber nicht mehr wirklich abstreamen zurück
kontributen an Sick selber. Weil sie dabei eben auch sehr
viel KI eingesetzt haben. Bei diesen Optimierungen und die
Sick Community das jetzt gar nicht haben will.
Und das fand ich schon irgendwie spannend, weil da geht es ja
dann um den Code, worum es aber auch vielen Kontributern geht es
eben mehr so was wie das Erstellen von Issues oder das
Kommentieren auf irgendwelche Beiträge und ich habe
witzigerweise letzte Woche einen Beitrag auf einer Konferenz
gesehen von dem Erfinder und Hauptmaintainer von pi.
High ist auch eine Coding Engine Runtime, und zwar die, die
hinter Open Cloud zum Beispiel steckt.
Also die hat einen sehr Open Source Gedanken, die ist sehr
minimalistisch und versucht dann halt irgendwie alles über eigene
Plugins und Veränderungen zu machen, die man eben selber da
rein programmieren kann und der Mantainer hat auch vor allem
gesagt, dass es ihm ein bisschen ähnlich geht, dass er gerade
überschwemmt wird davon. Dass wir vor allem auch sowas
wie geöffnete Issues, aber auch Pull Requests auf Open Source
Projekte sehen, die vielleicht auch größtenteils gut gemeint
sind, die ihn aber komplett lahmlegen, eigentlich in seiner
Arbeit und etwas ähnliches gemacht, bei dem im Repository
ist es so, dass man sich als First Time Contributor erstmal
verifizieren muss, dass man überhaupt ein Mensch ist und und
eine sinnvolle Contributions gemacht hat.
Das heißt, wenn ich ein issue aufmache, wird das automatisch
geschlossen. Und irgendjemand geht da nur hin
und guckt mal, ob bei diesen geschlossenen Issues vielleicht
doch was Sinnvolles dabei war. Dann werde ich in so eine
friendly human Punkt MD Liste in dem Repo eingetragen und erst ab
da kann ich dann überhaupt wirklich erst hingehen und
weiter contributions machen und auch Pull request stellen.
Das heißt ich muss also quasi mich einmal als sinnvoller
contribute erwiesen haben und das wird von einem Menschen
gereviewed und. Und auch in den Contribution,
Pipelines oder Guidelines nicht Pipelines in den Contribution
Guidelines von PI steht auch ganz klar drin, dass dass Dinge
Auto geclosed werden und dass vor allem auch ichos jemand am
Wochenende erstellt, zum Beispiel gar nicht erst beachtet
werden, um den Mantainer ein bisschen mehr privatzeit und
weniger Stress zu geben. Also ich glaube, wir bewegen uns
gerade als Industrie so ein bisschen dahin, Open Source
Mantainer auch mental zu entlasten.
Und ich finde das ganz spannend, da das Sig Projekt ja auch
sagte, Wir wollen jetzt vielleicht damit eher unsere
Zukunftsfähigkeit sichern und dann bleibt vielleicht so ein
bisschen Geschwindigkeit auf der Strecke, weil wir halt nicht
mehr so viele Beiträge aufnehmen oder bekommen können, aber dafür
wird dieses Projekt in Zukunft auch noch Leute haben, die
dieses Projekt weiter betreuen und verstehen und das gleiche
müssen wir uns natürlich auch bei Unternehmensinterner
Software oder anderer kommerzieller Software fragen,
weil wenn ich jetzt tatsächlich. Tatsächlich irgendwie nur noch
eine Gruppe habe von Entwicklern, die halt dieses
Projekt nur mehr oder weniger gut verstehen, weil sie halt
lediglich mit KI Agenten dieses Projekt weiterentwickeln.
Dann kann es natürlich relativ schnell passieren, dass
irgendjemand das Unternehmen verlässt.
Vielleicht irgendjemand aus der vor KI Zeit, der das Projekt mal
gestartet hat und dann ist diese Person weg und alle anderen, die
jetzt zwar die letzten 2 Jahre Kräfte an diesem Projekt
mitentwickelt haben, verstehen eigentlich die gesamte
Architektur nicht oder wissen gar nicht welche Designprojekte.
Prinzipien dort tatsächlich realisiert wurden und die
einzigen Leute, die es wüssten, die sind dann nicht mehr im
Unternehmen. In der Open Source Community
kann man das vielleicht dann noch eher irgendwie
nachvollziehen, aber stell dir mal vor, du arbeitest in einem
Projekt über mehrere Jahre, hast aber bisher deine Contributions
alle nur über den KI Agenten gemacht und dann geht dann die
Expertin, der Experte irgendwie aus dem Unternehmen raus, dann
steht man vielleicht erstmal ziemlich doof da, gerade wenn es
dann zu irgendwelchen Problemen mit der Applikation kommt.
Hauptsächlich geht es da natürlich auch darum, dass im
Moment nicht so richtig sauber unterschieden wird, ob jetzt
eine Contribution überhaupt von einem Menschen oder von einer KI
kommt, weil auf einem Poly Requestion einem Issue sieht das
auch alles erstmal irgendwie gleich aus.
Ja, ich stelle mir gerade vor, dass ich jetzt dann irgendwie in
meine Git History gucke oder mache irgendwo einen Blame drauf
und sehe dann Robin. Manuel hat das geschrieben und
dann sagst du mir die Zeile Code hat ihn drin auch gesehen, das
war mein mein Coding Agent ne. Ja genau das meinen die ja auch
mit. Du musst irgendwie nachweisen
können, dass du. Den Code verstanden hast, den du
da jetzt contributed, ist ja eigentlich fast egal, ob den ein
KI Agent geschrieben hat, weil er dir das schneller quasi
abgetippt hat als du es hätte tippen können.
Aber du musst die Contribution verstanden haben und ich glaube
da gibt es im Moment keine richtige Lösung für eine
Industrie, dass ich das irgendwie verifizieren kann und
das ist auch der Grund, warum jetzt immer mehr.
Firmen hingehen und versuchen, dieses Identitätsproblem von
einem Agenten zu lösen. Weil, stand heute wird gecoded
und werden Issues erstellt und werden Pull Requests aufgemacht
unter meinem Namen. Wenn ich das jetzt zum Beispiel
mit Cloud Code oder mit gitap co Pilot mache, wenn ich es mit
gitap co Pilot auf gitap.com mache, also im Browser, dann ist
wenigstens ersichtlich, da steht da auch oft Hey Co Pilot hat
diesen Change hier für dich veröffentlicht, aber in dem
Moment wo das schon auf meinem Rechner läuft ist das ja weil es
die gleichen Tools benutzt der Tipp ja quasi für mich auf
meiner Tastatur. Gar nicht mehr so richtig
unterscheidbar und deswegen, wir hatten schon in den letzten News
folgen noch immer wieder drüber gesprochen.
Ibm und Microsoft haben sich da eingeschaltet und jetzt haben
wir gerade in News, wo hier auch Google sagt, dass sie eine
eigene Art der Identität für ihre KI Agenten einführen, in
ihrem IAM bedeutet, dass sie quasi in diesem Identity Access
Management, das ist da quasi jetzt eine eigene, eine neue Art
von Identität, es gab früher diese System User so eine
klassische Service Accounts. Und es gibt menschliche User.
Und jetzt muss noch irgendwas dazwischen, eigentlich als
Identität kommen und haben wir auch schon mal darüber
gesprochen, werden wir auch mal eine eigene Podcast Folge zu
machen zu dem Thema, da passiert gerade viel in der Industrie,
ich bin aber jetzt ehrlicherweise auch noch nicht
nicht so weit gekommen, mir da irgendwie komplett den Kopf
reinzustecken in diese Thematik, aber wer auf der Google
Plattform ist kann sich das schon mal angucken, verlinken
wir natürlich unten wie alle anderen News auch und hat Google
eben jetzt so eine neue Art von Identität seinen Agenten
gegeben, mit denen man dann zumindest wenn man erstmal
Plattformen selber baut dann. Herausfinden kann, ob auf der
selbstgebauten Plattform ein selbstgebauter Agent unter dem
unter der Identität eines Agenten operiert oder unter der
Identität eines menschlichen Users.
Das soll nämlich genau damit dann unterschieden werden.
Ja, und ich glaube gerade dieses Problem, dass Agenten teilweise
in meinem Namen Dinge tun, kann auch zu Problemen führen, weil
dann gar nicht mehr klar ist, wer hat das letzten Endes
gemacht. Und gerade wenn Agenten dann
auch. Über alle Ressourcen und Rechte
verfügen, die ich habe, kann das zu Problemen führen.
Und du hattest ja mal erwähnt, irgendwie der Einsatz von von
Open Claw, den du ja immer weiter ausdehnst und da arbeitet
der Agent ja in vielen Bereichen ja auch mit deiner Identität und
wir kommen ja immer weiter in diese Use Cases rein, wo diese
Agenten auch dann selbstständig Transaktionen durchführen, zum
Beispiel Dinge im Internet kaufen und da fand ich das ganz
spannend jetzt diese News, die durch.
Durch Cloud Flair kam, wo sie halt ein neues System geschaffen
haben, wo Agenten selber Domains kaufen können und Apps deployen
können und was sie da gemacht haben ist sie haben sich mit
Stripe zusammengetan, also dem weltweit größten
Zahlungsdienstleister, und haben dort mit ihnen gemeinsam ein
System entwickelt, wo diese Agenten halt bestimmte Rechte
nur auf deinen Zahlungsinformationen bekommen.
Das heißt, du gibst dem Agenten jetzt nicht irgendwie deine
Kreditkartendaten, das haben ja viele.
Mit Open Claw gemacht, die haben gesagt hier die meine
Kreditkartendaten kannst du mit Einkaufen aber gib nicht zu viel
aus aber da dieses nicht gib nicht zu viel aus stand
irgendeinem. Markt drin, das hab ich nicht.
Gemacht, das war nicht so jemand anders.
Ich hab viel. Quatsch damit gemacht, aber
keine Kreditkartendaten. Genau, aber hier wird dann
wiederum ein deterministisches System verwendet von Stripe.
Das heißt, die haben meine Kreditkartendaten, dann bekommt
der Agent das Recht, mit meiner Kreditkarte Dinge zu kaufen,
nämlich diese Cloud Flare Domains, darf aber maximal
irgendwie $100 ausgeben, das heißt das Ganze wird
entsprechend auf der API Ebene Enforced und damit bekommt der
Agent Halt bestimmte Rechte, auch wenn er jetzt hier quasi
auf meinen Zahlungsinformationen arbeitet und das zeigt aber
einfach wie hier Agenten. Immer weiter autonom für mich
auch agieren können und wie wir es aber auch schaffen, hier an
der Stelle dann solche Grenzen zu ziehen, insbesondere wenn es
darum geht, dass sie mit meiner zum Beispiel Zahlungsidentität
hier arbeiten. Das hat mich sehr stark erinnert
an diese ganzen Agientic Commerce Protokolle.
Da gibt es ja eigentlich so 2, die das Rennen anführen.
Es gibt aber dieses ACP, dieses Agentic Commerce Protokoll von
Open Eye, da ist aber schon wieder eingeschlafen, jetzt gibt
es auch Ucp, das ist hauptsächlich von Google
federführend entworfen. Für Universal Commerce Protocol
und da Stripe auch ganz eng seine Finger drin.
Also die entwickeln sich ja gerade wirklich auch zu so einer
Agent to Agent Payment Lösung bedeutet nämlich dann auch in
diesem ucp Protokoll, das ist auch so als Händlerin oder
Händler kann ich eben Produkte listen und dann wenn du mal
jetzt mit Perplexity zum Beispiel unterwegs bist.
Das ist einer der ersten Adopter für das Thema, dann möchtest du
dir vielleicht deinem Agenten auch ermöglichen Dinge zu kaufen
und genau wie du gerade sagst, dem aber nicht deine
Kreditkartendaten mitzugeben und.
Und das läuft dann auch so, dass ich dann so, wenn ich einen
Stripe Account habe, kann ich dir meinen Agent mitgeben und
dann kann der Agent und der Shop, bei dem gekauft wird
nachher eigentlich nur verifizieren über so ein einmal
Token ob die Zahlung abgeschlossen wurde ohne
wirklich an diesem eigentlichen Zahlungsverkehr teilzunehmen und
das hat mich hier schon sehr daran erinnert.
Also da muss ich mal reintauchen ob das auch auf Basis von diesem
ucp Protokoll aufsetzt. Aber im Intro hört es ja immer,
wir sind bei Jtl eine E Commerce Software Company, das heißt Wir
bauen Software für Händlerinnen und Händler, die müssen
natürlich stattfinden in diesem ganzen ja agentischem shoppen,
wenn ihr also quasi eurem Jet GPT sagt, dass ihr eine to do
Cast Fan Tasse kaufen wollt und der das für euch tun soll, dann
ist natürlich wichtig, dass unser kleiner To do Cast Fanshop
auch bei diesen KI Tools wie Cloud und Perplexity und Jet GPT
und Germany auftaucht da. Da sind wir als Händler
natürlich daran interessiert. Und diese Brücke, die haben wir
auch bei bei Jtl Halt gebaut und da geht es um genau diese
Sachen, dass ich zu einem gewissen Rahmen dem Agenten
erlaube, Dinge für mich einzukaufen.
Und Stripe scheint jetzt hier auch mit Cloud Flair diesen
weggegangen zu sein, um zu sagen, ey, wenn du doch eh
deinen Agenten das ganze Projekt machen lässt, warum sollte er
sich dann nicht auch eine coole Domain dafür raussuchen und
checken, ob die frei ist und die dann vielleicht sogar kaufen
können? Klar klar glaubt er dann daran
Interesse daran, die verdienen ja Geld, wenn sie Domains kaufen
verkaufen. Aber es ist natürlich natürlich
schon wild, wenn der Agent dann sagt, ach ja, wenn die unter
100€ kostet, dann habe ich hier die Erlaubnis bekommen, die zu
kaufen, dann mache ich das mal. Dann bringe ich die Webseite
doch mal unter dem Namen online. Ja, und ich glaube, es wird
viele geben, die dann solche Komfortfunktionen in der Zukunft
auch verwenden werden. Ich meine eine News, die wir
diese Woche auch gesehen haben, ist, dass Lovable jetzt auch
eine ios und Android App hat, das heißt Ich kann meine Web
Applikationen die ich irgendwie. Gewipecoded habe nicht nur von
Lovable bauen lassen und irgendwo in so eine Testumgebung
Deployen, sondern ich kann dann vielleicht in Zukunft auch sagen
okay ja, sucht direkt den passenden Domain Namen,
registriere den Kauf, die Domain und Deployders dahin, ohne dass
ich dann selber aktiv werden muss und meine Kreditkarte
ziehen muss auf eine andere Webseite geben muss.
Und das ist ja gerade der große Reiz dabei, dass ich quasi aus
einem. Aus einer Oberfläche hier,
diesem Agenten diese Aufgaben geben kann und er dann über
bestimmte Rechte verfügt, um Dinge für mich zu tun, das ist.
Eigentlich ganz spannend also diese News das Lover Build jetzt
irgendwie auch mobile Apps hat, was nicht heißt, dass man mit
Lover Build mobile Apps bauen kann, sondern dass ich halt
quasi von unterwegs einfach dem Agenten nur noch so so eine
kleine Nachricht in der Lover Build App schicken kann.
Ich mache das auch bei github relativ viel, dass ich da quasi
einfach dem github co Pilot in der github mobile App noch mal.
Feedback zu einer Pull request gebe oder sogar einen ganzen
neuen Task hochfahre. Ich mache das auch mit der Cloud
App, wenn ich Cloud Code benutze.
Ich merke schon, dass es immer mehr ein Job wird, wofür ich
nicht am Rechner sein muss, ich finde es gibt so, es gibt so
Tasks in so einem Arbeitsalltag, die die fühlen sich für mich an
wie Computer Tasks, also so Sachen die man an einem Computer
macht, wo man eine vernünftige Tastatur hat und da gibt es
Sachen die man so mal nebenbei, wenn man sie irgendwo in die.
S Bahn steigt vom Handy ausmachen kann und irgendwie
wird gerade so ein bisschen vipe Coden zu einem Task, den ich
auch immer mehr vom Handy machen kann, entweder über diese Coding
Agenten oder irgendwie sowas wie lovable.
Das finde ich spannend, weil vorher war ja wirklich irgendwie
Software erstellen was wo ich sagte, da brauche ich auf jeden
Fall einen Computer für und ich erinnere mich einmal an den
Urlaub, da war ich, das ist schon schon sehr sehr lange her,
da war ich on Call und habe gedacht es würde reichen ein I
Pad mitzunehmen, da habe ich mich wirklich damals noch in.
Konnte man bei github konnte man so eine Web Version kann man
immer noch von Visual Studio Code hochfahren und dann da drin
irgendwie arbeiten. Das war alles ganz ganz fummelig
und wenn ich mir vorstelle heute kann ich auch einfach
theoretisch nur noch mein Handy mitnehmen und gucken, dass ich
die meisten die meisten Probleme lassen sich wahrscheinlich von
einem gut konfigurierten Agenten lösen, den ich dann einfach nur
noch vom Handy aus erreichen kann.
Ja, und manchmal reichen dann diese Agenten nicht und dann
musst du eigene Agenten bauen. Und das hatten wir in der
Vergangenheit ja schon an vielen Stellen angesprochen.
Es gibt n offizielles SDK von Cloud, es gibt NSDK von Kodex,
es gibt n git up, co Pilot SDK und jetzt gibt es auch das
Cursor SDK, das heißt, die haben auch jetzt also die Macher der
Cursor. Idi, also KI idi, haben jetzt
auch ein eigenes SDK gebaut, mit dem ich meine eigenen Agenten
bauen kann, in Type Script. Sie sind da jetzt nicht die
ersten, aber sie haben da jetzt auch nachgezogen, sie haben ja
auch ihren eigenen Agent Loop, das heißt, sie haben da auch
viel IP erzeugt, die sich ja durchaus großer Beliebtheit
erfreut und von daher ist vielleicht für die einen oder
anderen, die jetzt hier zuhören, auch das ist spannende News,
dass man jetzt auch seine eigenen Agenten bauen kann,
basierend auf dem SDK von Cursor und.
Und auch hosten. Also sie bieten auch so eine
Hosting Umgebung an, wo sie auch sagen, das ist quasi die gleiche
Hosting Umgebung wo ihre eigenen Coding Agenten laufen in so
einer isolierten VM die dann wo da auch quasi gar nicht so
wahnsinnig viel kaputt gehen kann.
Ich habe mir das mal kurz angeschaut, weil jetzt zähle ich
hier viel von von Jtl wie diese Folge aber auch wir bauen eine
Agentenplattform und auch da müssen wir ein bisschen gucken
wo wo dürfen diese Agenten denn nachher eigentlich laufen, wie
sieht da die Umgebung aus? Da habe ich aber jetzt
feststellen müssen, dass sich das Angebot von Cursor, das ist
zwar cool, ich glaube, das richtet sich aber eher an so
eigene Programmieragenten, die man sich selber schreibt, also
es ist nicht unbedingt was, was man selber dann baut und
customer Facing wieder rausgibt, sondern ich glaube, wenn man
sich selber so Programmiertasks automatisieren möchte oder
eigene Agenten baut, die im Hintergrund an dem eigenen Code
rumfummeln, dann kann man hier quasi das Cursor Agent SDK
nutzen, auch irgendwie jegliche Modelle, die bei den Cursor
verfügbar sind, da reinhängen und.
Und die dann da in der in der Cursor Cloud auch laufen lassen.
Ich hätte jetzt nicht das Gefühl, dass das sich jetzt
wirklich an Endkunden richtet, sondern eher intern ausgerichtet
ist. Dafür ist es aber glaube ich
ziemlich cool. Kann ich zum Beispiel einen
Agenten Mitbauen, der meine Pull requests.
Auf einer Nightly skelual Ebene durchschaut und überlegt, ob da
irgendwelche Dinge noch fehlen oder dann Security Review macht
oder schaut, ob die Beschreibung unvollständig ist oder guckt ob
das was dann im Pull Request hinzugefügt würde, nicht
eigentlich auch ein Change in meiner Dokumentation erfordern
würde und dann den entsprechenden Pair aufmacht.
Diesen Dokumentations Change zum Beispiel nachzieht also so
Custom Agent kann man sich da glaube ich ganz cool mitbauen
und. Und wer natürlich auch einen
attraktiven Agent für Developer baut, ist Open Ai mit Codex.
Und da gab es diese Woche auch eine spannende News, gerade für
diejenigen, die Dinge im Web automatisieren wollen.
Und zwar läuft jetzt auch Codex direkt in Chrome für Mac OS und
Windows und kann dementsprechend im Browser im Hintergrund
laufen, bestimmte Aufgaben erledigen und muss dafür nicht
mehr auf irgendwelche Third Party Tools zurückgreifen, um
entsprechend. Entsprechende Browserfunktion zu
bedienen, also gerade in dem Zusammenhang kann das durchaus
für die einen oder anderen spannend sein.
Genau. Wenn das jetzt so wie bekannt
vorkommt, von Cloud, die konnten das auch schon, die haben ja
auch dieses Cloud in Chrome Plugin, was ich mich nur gefragt
habe ist dann damit Atlas offiziell tot, weil Opener hat
ja ihren eigenen Atlas Browser, der glaube ich irgendwie
chrombasiert ist. Der war jetzt in dieser News
nicht mit einem Wort erwähnt, ich glaube also ich habe
generell schon länger nichts mehr von diesem Atlas Browser
gehört, aber dass sie diese News jetzt sagen mit.
Ey Kodex kann deinen Chrome fernsteuern und nicht Kodex kann
seinen Atlas Browser fernsteuern, sagt Glaube ich
viel aus über die Zukunft von Atlas.
Ich würde ich würde sagen hier in diesem Podcast, Wir begraben
jetzt Atlas offiziell, ihr habt es gehört am 11 Mai Robin Manuel
Malta haben gesagt Atlas ist tot Mark Ourwords es war eine
Prediction, dass wir keine Atlas News mehr hören außer die News,
dass das Ding vielleicht jetzt abgeschafft wird.
Und dann haben wir noch eine ganz spannende News für
diejenigen, die die Open AI Modelle selber in ihrer eigenen
Software verwenden und vielleicht adab US Kunde sind
und nicht direkt den Vertrag mit Open AI oder Microsoft in der
Vergangenheit schließen wollen oder konnten.
Und die haben jetzt auch die Möglichkeit Open AI Modelle
direkt in adab US Bedrock zu verwenden.
Das ist eine Neuerung die ganzen Ki Anbieter, die stellen sich ja
immer breiter auf, wir haben da gleich noch ein paar weitere
News zu und nach der. Der mehrjährigen Partnerschaft
oder exklusiven Partnerschaft, die Open AI ja mit Microsoft
hatte, gibt es diese Modelle jetzt auch direkt in Ada US.
Das heißt, dort steht dann Open AI nicht nur mehr Computer zur
Verfügung, sondern halt auch für Kunden ein weiterer Weg den
Service zu nutzen. Ja, ist schon crazy.
Dieser Exklusivvertrag ist ausgelaufen mit Microsoft und
noch am selben Tag wo der ausgelaufen ist oder wo es jetzt
irgendwie dieses Re Arrangement Agreement wie auch immer gab,
tauchen die Modelle jetzt auch bei Ada US auf.
In der Vergangenheit kann man, man kann ja immer auch direkt
bei Open id Modelle beziehen, aber wenn ich sie vielleicht in
ein bestehendes Vps bei AWS oder Private Network in Azure
reinziehen will, dann muss ich sie natürlich eben über so einen
Cloud Provider beziehen und bisher gab es bei AWS eben nur
diese Open Source Modelle. Es gab ja dieses GPT minus OSS
und die haben sie glaube ich im August letzten Jahres dann damit
aufgenommen. Die ist dann unter anderem
Lizenz. Und jetzt sind eben also die
Office GPT 5. Kriege ich jetzt direkt bei AWS.
Ich gehe davon aus, dass es nur noch eine News Folge dauert, bis
die dann auch bei Google irgendwo auftauchen, das heißt?
Ihr wisst ja, wir im Podcast. Wir mögen sowas immer, das ist
immer ein bisschen mehr mehr. Also wir mögen ja immer Sachen,
die frei sind und nicht irgendwie künstlich
eingeschränkt sind, deswegen ist das für uns, glaube ich eine
gute News für Microsoft wahrscheinlich so eine
mittelgute News, weil das bestimmt auch immer ein guter
Pull Effekt war in die Azure Cloud zu gehen, weil man da eben
diese GPT Modelle bekommen hat. Wobei ja auch auf der anderen
Seite Microsoft jetzt seit einiger Zeit auch mit Andropic
zusammenarbeitet. Das stimmt auch das Partnership
Announcement und vielleicht bedingen sich diese beiden.
Diese beiden News untereinander und bietet für alle jetzt mehr
Flexibilität. Wir haben jetzt aber auch noch
eine andere adablus News, die vielleicht in dem Zusammenhang
auch noch interessant ist. Selbst wenn man jetzt keine Open
AI Modelle verwendet, nämlich der Adablus MCP Server, ist
jetzt generaly Avidable, das heißt ich kann jetzt meinem
Agenten der Wahl, egal ob es jetzt mein Coding Agent ist, das
ist wahrscheinlich das häufigere Szenario oder einem anderen
Agenten. Zugriff auf meine Ada BOS
Ressourcen geben, aber das und das fand ich eigentlich am
spannendsten, nicht in meinem Namen, sondern wirklich über das
Identity Management. Wir hatten es ja vorhin
angesprochen in der früheren News rund um Google und die
Agent Identities, sondern ich bekomme da eine eigene Identity
für meinen Agent und kann dem dann entsprechende Rechte geben,
so Roll Based Access Control für die verschiedenen Ressourcen.
Ich kann ihm zum Beispiel sagen, er darf bestimmte Storage
Accounts nur lesen und nicht löschen, damit der Agent nicht
irgendwie übernachtet. Auf die Idee kommt irgendwelche
Dateien zu löschen, das heißt ich kann das sehr genau Steuern
und da kommen wir dann genau in diese Welt, wo ich nicht mehr
alles in meinem Namen habe und dann am Ende schaut jemand
irgendwie in die Logs rein und sieht, hey, du hast dann
irgendwie mitten in der Nacht irgendwelche WM s abgeschaltet
oder cubanities Clusters gelöscht, obwohl das dein Agent
war, sondern wir können es genau einschränken und haben dann auch
diese agentische Idee. Identität dort.
Ja, dieses Agenten Identität, das wird sich heute noch mal ein
bisschen durch die Folge ziehen. Wir haben gleich mal eine News
dazu, aber ich fand es auch bemerkenswert, dass sie selber
gesagt haben, der MCP Server ist der präferierte Weg.
Mit dem Agenten Abs bedienen sollen und hier sieht man sie
empfehlen, sie können es selber nicht verhindern.
Mein Coding Agent kann ja auch einfach auf die Kommandozeile
gehen und mit Abs interagieren oder kann sich einfach seine
eigenen Cloud Formation Skripte schreiben und die Deployen, aber
sie sagen wirklich ey sagt Euren Agenten, dass sie bitte diesen
MCP Server verwenden, weil dann dadurch die Identität ja quasi
oder zumindest dieses Tracing, dass es ein Agent war
sichergestellt wird und auch Abs hat so eine agentische
Identität, die jetzt hier auch zum Einsatz kommt.
Wie gesagt, ich würde mich sehr wundern, wenn wir das das letzte
Mal gehört haben, diese Themen und ich glaube das schreit
danach, dass wir da mal eine eigene Folge zu machen, dass da
die vor und Nachteile sind und wie man das eigentlich umsetzen
kann und wie man es vielleicht auch gar nicht verhindern kann,
dass man, dass ein Agent sich da auch als Mensch weiterhin
ausgibt. Und damit kommen wir dann jetzt
zu den letzten Playern, über die wir noch nicht gesprochen haben
in diesem ganzen lm Race, zumindest so aus der westlichen
Perspektive, und zwar? Xai oder jetzt unter der
Dachmarke Space X und Anthropic, die eine Partnerschaft
angekündigt haben, wo halt Space X quasi ihr erstes großes Data
Center für KI exklusiv Anthropic zur Verfügung stellt und
anthropic dadurch halt massiv Rechenzentrumskapazitäten
bekommt. Das Ganze wird ja immer
irgendwie in Megawatt Gigawatt gemessen und ich habe gelesen,
der Stromverbrauch von diesem einen Data Center ist so groß
wie das. Einer mittelgroßen Stadt also.
Sie kriegen da wirklich massive Kapazitäten, die sie jetzt
zusätzlich verwenden können, und die kommen jetzt über diese
Partnerschaft halt mit Space X, die vor kurzem Xai übernommen
haben. Ja, 220000 Nvidia GP US sind
dadurch quasi in die in die Nutzungsreichweite von Tropic
und den Cloud Modellen gegangen, dass man sich mal vorstellen.
Dadurch konnte Cloud jetzt quasi auch Cloud Code Limits auf allen
bezahlten Plänen direkt wieder verdoppeln.
Ich weiß nicht, ob euch das ähnlich gegangen ist.
Bei uns war es jetzt recht viel, so dass ja Cloud ist ja a, wenn
ich hier einfach nur Cloud auf dem Desktop verwende, also gar
nicht unbedingt Cloud Code, sondern einfach nur die quasi
die Produktivitäts App Cloud, da sind die aber so ein bisschen
undurchsichtig, was Ihre Usage Limits angeht, es gibt diesen
normalen. Standardplan für $20 im Monat wo
da steht, da sind Usage Limits und da gibt es den Premium Plan,
da gibt es dann 5 mal höhere Usage Limits.
Aber was diese Usage Limits genau sind auf Token Ebene, da
hält sich ein Tropic immer ziemlich intransparent drüber
und jetzt haben sie zumindest gesagt, dass sie mit diesem
strategischen Investment, was sie da getan haben und das jetzt
diese Space X Colossus 1 Data Center nutzen können, erstmal
überall wieder usage Limits. Erhöht haben und nach oben
angepasst haben und das ist schon crazy, wenn man sich
anguckt, was jetzt eigentlich an Tropic, die haben eine extreme
Nachfrage, gerade gerade auch wegen ihren Coding Modellen,
aber jetzt auch im Modern work Bereich, was die da mittlerweile
eigentlich alles zusammengetragen haben, die
haben so ein 5 Gigawatt Agreement mit Amazon
geschlossen, dann haben sie ebenfalls ein 5 Gigawatt
Agreements mit Google und Broadcom gemeinsam beschlossen,
die auch ein neues Rechenzentrum dafür bauen was 2027 online
geht. Haben ihre strategische
Partnerschaft mit Microsoft und Nvidia, die irgendwie 30
Milliarden Dollar Azure Rechenkapazität beinhaltet und
dann noch mal haben sie ja das 50 Milliarden Dollar Investment
in die amerikanische KI Infrastruktur über Fluid Stack
und so was getan. Also also was da eigentlich an
an Ressourcen reingesteckt wird, nur um diese Nachfrage bedienen
zu können ist schon irre aber für uns alles und das ist
natürlich super gute Nachrichten.
Weil jetzt auch wahrscheinlich Claude weniger häufig sagt, Ey,
du hast dein Usage Limit erreicht.
Vor allem haben sie gesagt, sie konnten jetzt direkt dieses Ding
kippen, dass sich in diesen Peak Zeiten, also es war teilweise
irgendwie samstags, mittags so oder auch während der während
der Hauptarbeitszeiten, gerade wenn sich irgendwie die deutsche
Arbeitszeit, also die europäische Arbeitszeit mit der
amerikanischen Arbeitszeit überschnitten hat, gerade so
irgendwie am Nachmittag. Dass dann klaut hat einfach
gesagt, hat ey, es ist gerade peak Zeit, jetzt musst du wieder
eine halbe Stunde warten, bis du weitermachen kannst.
Dass sie das jetzt dadurch kippen konnten und ich glaube,
das ist eigentlich für uns als Developer hier die größte News
von diesem Deal. Und das ist natürlich ein guter
Outcome, jetzt erstmal da raus. Ja, da bin ich mal gespannt auf
die Erfahrungsberichte aus der Community, wieviel mehr jetzt da
wirklich kommt, weil ich meine das Tool haben die Leute auch
weiterhin mit den Limits aus der Vergangenheit verwendet und.
Da wundert man sich natürlich, wenn man dann irgendwie mehr
bekommt fürs gleiche Geld. Aber vielleicht ist es so, was
ich am spannendsten fand, ist in dieser ganzen News eigentlich,
dass gesagt wurde, dass sie exklusiv diese Kapazitäten von
Space X bekommen und da habe ich mich gefragt, hatte die Firma
dahinter nicht mal Ambitionen selber irgendwie einer der
großen Player in dem Bereich der KI Modelle zu werden, also mit
den Grog Modellen? Und wenn Sie jetzt exklusiv
dieses Colossus Data Center and Tropic zur Verfügung stellen?
Wo laufen denn dann die ganzen xai Modelle?
Und ist das vielleicht ein Zeichen dafür, dass die
Nachfrage nach diesen Modellen extrem gering ist und sie die
eigentlich komplett aus anderen Kapazitäten bedienen können?
Uh. Große zweite große Prediction in
dieser Podcast Folge Grog ist tot ja nee, aber muss ich
natürlich schon fragen, warum hat Space X denn eigentlich das
gesamte Colossus 1 Rechenzentrum frei um das Entropic zu geben?
Das ist natürlich schon eine. Schon eine sehr valide
Rückfrage. Ich würde auch sagen, das bringt
jetzt hier irgendwie Space X ein bisschen in Erklärungsnot.
Ich kann mir auch gut vorstellen, dass einfach keine
Saugrog benutzt. Zumindest was das Coding
betrifft, ist wahrscheinlich die Nachfrage sehr gering.
Ich glaube, nachdem sie das jetzt fest in Tesla eingebaut
haben, gibt es jetzt so ein paar Leute, die einfach nur weil sie
den Button zu lange gedrückt haben, sich dann doch mal ein
bisschen länger mit Grog unterhalten haben, zumindest ja
wahrscheinlich ist. Koloss aus Rechenzentrum für.
Das stimmt, aber zumindest ist das so.
Das, was ich zuletzt gehört habe von allen, die irgendwie erste
Erfahrung mit Grog gesammelt hatten, war das irgendwie, ja,
ich habe es mal im Auto ausprobiert.
So, dann haben wir noch ein paar Security Themen mitgebracht
diese Woche und eine Sache geht jetzt auch wieder eigentlich
Richtung von KI Identitäten, zumindest so im gröberen Sinne.
Und zwar hat Google, ihr merkt schon viele Google News diese
Folge, die hatten eine große Konferenz und da haben sie
angekündigt, dass sie Google Cloud Fortdefence einführen, das
ist ein Produktname der die. Quasi die nächste Version von
Capture oder re Capture, wie es ja mittlerweile heißt,
darstellen soll. Captures kennt ihr alle, wenn
ihr auf irgendeiner Webseite seid und die nervt euch mit ey.
Ich muss erstmal verifizieren, dass du ein Mensch bist und dann
muss ich aus irgend so einem Bild anklicken, Wo sind
Zebrastreifen, wo sind Ampeln, wo sind Motorräder, wo sind
Buße, das ist dann in der Regel ein Google Capture, das nutzen
Webseiten, Betreiberinnen und Provider um sicherzustellen,
dass es sich immer um einen Menschen handelt.
Und wie ihr euch denken könnt, ist jetzt das in der Zeit von
Ultramächtigen Ki Modellen auch nicht mehr die allerschwerste
Aufgabe für so ein Modell aus 6 Kästchen die 3 rauszusuchen, wo
ein zählbarstreifen Draufzusehen ist.
Deswegen muss es hier irgendwie eine neuere Art und Weise geben,
wie man sich als Webseitenbetreiber davor
schützen kann und quasi verifizieren kann, dass wirklich
ein Mensch hier gerade am Werk ist, also quasi genau das
Gegenteil, wohingegen ich mich mit den einen Technologien.
Davor oder sicherstellen kann, dass mein Agent sich als Agent
auch wirklich authentifiziert, baut Google hier von der anderen
Seite den Schutz auf, dass ich sagen kann, selbst wenn ein
Agent sich vielleicht als Mensch ausgibt, möchte ich hier meine
meine Nutzerinnen und meine Nutzer, meine Webseitenbetreiber
davor schützen und was diese diese neue Fort Defense jetzt
irgendwie macht ist a. Ich kann in der Google Konsole,
wenn ich webseitenbetreiber bin da so bestimmte Regeln
hinterlegen, dass ich sagen kann für welche Agenten möchte ich
denn eigentlich welche Teile meiner Webseite stoppen oder
auch welche Limits? Vielleicht sogar einführen, also
ein bisschen bisschen fein granularer als diese Robots.
Txt, wo ich eigentlich nur bestimmte Crawler an und
abschalten kann und das neue Capture, was sie jetzt hier
gezeigt haben, das lässt es mir ehrlich gesagt kalt den Rücken
runterlaufen, denn sie haben mir einen Screenshot gezeigt, wo ich
dann auf einer Webseite ein popup Fenster sehe, hatte ich ja
eh schon und dann da ein QR Code angezeigt wird, den ich dann mit
meinem Telefon scannen muss und. Um dann vielleicht weiß nicht,
ob ich da eine Phase id dann machen muss oder wie das läuft.
Das haben Sie dann glaube ich noch nicht ganz verraten, aber
auf jeden Fall auf so einem zweiten Gerät irgendwie meine
Menschlichkeit bestätigen muss und das nervt mich ja schon bei
2 Faktor Codes. Also ich sehe ein, dass es sie
wichtig sind, aber da habe ich ja wenigstens so einen Gedanken,
hinter dem ich sage okay wenn ich auf einem zweiten Gerät
meinen zweiten Faktor bestätigen muss, wenigstens Security
Feature. Wenn ich jetzt aber auch auf
jeder Webseite auch noch mal mit einem zweiten Gerät bestätigen
muss, dass ich ein Mensch bin. Boah, ich habe auf jeden Fall
mit den Augen gerollt, als ich das gelesen habe und ich habe da
ehrlich nicht so viel Bock drauf.
Ja, die Frage ist, ob das tatsächlich wirklich so kommt,
dass du als Mensch diese Challenge lösen sollst, oder ob
das nicht mehr darauf ausgelegt ist, dass es ja durchaus auch
legitime Cases gibt, wo halt irgendwelche Agenten oder Bots
auf die Webseite zugreifen können sollen die.
Regeln dann hinterlegen, dass bestimmte Bereiche deiner
Webseite vielleicht für bestimmte und nur bestimmte
Agenten zugänglich ist. Und dann kannst du auf der
anderen Seite halt auch, wenn du einen Agenten ausgeblockt hast,
kannst du natürlich als Mensch sagen, ja, das ist mein
persönlicher Assistent, Assistent, der soll auf diese
Webseite und dann kann ich halt diesen Code scannen und quasi
sagen okay, ich würge hier für meinen KI Agenten und lass den
mal rein und was halt Google sagt ist man hat
Herausforderungen solche Dinge komplett zu verhindern, dass
Agenten draufgehen zum einen, manchmal will man das und zum
anderen können sie natürlich mittlerweile auch automatisiert
irgendwie einen QR Code scannen lassen und man prompt
validieren, das kann man auch automatisieren, aber es würde so
viel quasi zeitversatz einführen, dass es sich
vielleicht so ein automatisiertes Ausnutzen nicht
mehr lohnt, aber durchaus dann legitimen Use Cases die
Möglichkeit gibt, trotzdem mit so einem Agenten eine Website.
Oder eine andere Applikation zu navigieren.
Und vielleicht ist das dann doch eine ganz gesunde Balance, je
nachdem, wie sie es ausspielen. Also wenn es wirklich am Ende so
ist, dass ich als Mensch andauernd irgendwelche QR Codes
scannen muss, bin ich absolut bei dir, das blockt halt die
Produktivität ist ja jetzt schon so gerade von ich weiß nicht wie
viele von euch, die ihr zuhört irgendwelche VPN Dienste nutzen,
die ja meistens dann über geteilte I PS rausgehen und dann
landest du eigentlich immer in diesen.
In diesen Captures, und das ist schon extrem nervig, wenn du
quasi auf jeder Webseite immer erstmal klicken musst.
Ja, ich bin ein Mensch, selbst wenn du als Mensch da drauf
navigiert bist, nur weil du halt über irgendeinen VPN
rausgegangen bist. Und wenn das dann tatsächlich
noch bedeutet, dass ich immer mein Smartphone aus der Tasche
ziehen muss, um QR Code zu scannen, dann ist das natürlich
würde ich die Webseite gar nicht mehr besuchen.
Ich hoffe einfach, dass Sie das genau für so legitime Use Cases
nutzen, um dann override zu machen.
Das hoffe ich auch, aber. Wenn ich heute also es klingt,
auf jeden Fall schon mal deutlich sinnvoller, so wie du
es hier gerade beschreibst. Aber wenn ich schon gucke, wie
oft ich heute noch selber einen Capture lösen muss, das nervt
mich auch schon, wenn ich jedes Mal, wo ich heute als echter
Mensch einen Capture lösen muss, jetzt einen QR Code Scanner, da
würde ich auch verrückt werden, aber ich glaube, wenn ich sage,
ey, ich kann dadurch meinen Agenten vielleicht legitimieren
oder dafür bürgen, oder der kriegt da vielleicht irgendwie
ein Token, was er eine Woche lang benutzen kann oder sowas,
das klingt ja schon deutlich sinnvoller und ich glaube da
müssen wir, da müssen wir schauen, Google hat eigentlich
immer eine ziemlich große Macht was sowas angeht, die haben ja
über re capture glaube ich auch ihre halben KI Modelle
trainieren können. Und werden wir jetzt ein
bisschen sehen, wie das weitergeht?
Aber was natürlich. Gerade in der Zukunft noch viel
gefährlicher ist als irgendwelche Agenten, die
irgendwie Webseiten navigieren, sind natürlich die Gefahren, die
uns drohen, wenn Quantencomputer die Verschlüsselung brechen
kann, die wir jetzt verwenden, um den ganzen Internet
Datentransfer zu sichern. Und Sicherheitsforscher weisen
darauf hin, dass jetzt schon quasi so eine
Vorratsdatenhaltung stattgefunden hat und einige so
State Level actor angefangen haben.
Im großen Stil Internettraffic verschlüsselten Internettraffic
abzuleiten, um den dann später zu knacken und auslesen zu
können. Sobald dann halt Quantencomputer
breit verfügbar sind und um das Halt möglichst schwer zu machen
und dem Halt schon einen Riegel vorzuschieben, bevor diese
Quantencomputer irgendwie in alle Hände geraten.
Gibt es jetzt eine neue Post Quantum Encryption, die von
Cloud Flare gelauncht wurde? Für IP SEC und damit halt die
ganze Verschlüsselung des Internet Datentransfers auf
einen Standard hebt, der sofern die Forschung stimmt, dann auch
in Zukunft nicht durch Quantencomputer gebrochen werden
kann? Aber sie sagen, dass Sie das
für. Ssl Verschlüsselung schon eh so
rausgeben und für die Leute denen jetzt IP sec nichts sagt,
das ist eine Verbindung die ich quasi zwischen meinem Netzwerk
und einem in der Regel sich irgendwo in der Cloud
befindenden Netzwerk dann machen kann.
Also eine private, ja wieso einen privaten VPN Tunnel eben
zwischen diesen beiden Netzwerken und Sie haben jetzt
selber gesagt, dass sie sie müssen unsere Podcast Folge vor
ein paar Wochen gehört haben malte, denn sie haben selber
gesagt, es ist ja jetzt doch irgendwie bekannt geworden aus
dieser. Q Day wie man diesen Tag vor
Quantum Computing dann irgendwie für die breite Masse verfügbar
wird, nennt, dass dieser Tag halt irgendwie jetzt noch näher
nach vorne rückt. Deswegen haben sie auch gesagt,
dass sie ihre eigene Agenda noch mal umgeschrieben haben und
ihren und ihre quasi komplette Post Quantum Security Roadmap,
wie Sie es nennen, 2029 abgeschlossen haben wollen.
Es gibt also durchaus neue Verschlüsselungsmethoden, die
auch dann vor der enormen Rechenpower von Quantencomputern
sicher sein sollen. Ich würde euch diese wahnsinnig
gerne in den Podcast erklären, wie das funktioniert und was
sich dahinter verbirgt, das können wir aber aus 2 Gründen
nicht. Zum einen haben wir natürlich
überhaupt keine Zeit mehr, diese Folge und zwar habe ich es auch
noch zweimal lesen, diesen blogspot nicht verstanden.
Deswegen muss ich mich hier auf Cloud Flair verlassen oder auf
die Community. Also wenn mir das irgendjemand
wie einem Fünfjährigen erklären kann, dann würden wir uns sehr
freuen, wenn ihr uns einen Kommentar hinterlässt, weil dann
können das alle in der Community sehen oder wenn ihr es uns per E
Mail schreibt, dann geht es auch, dann erklären wir das
nächste Mal mit euren Worten für die E Mail findet ihr was in den
Shownotes unten, aber es scheint auf jeden Fall Möglichkeiten zu
geben, die uns davor schützen und es ist glaube ich wichtig,
dass so ein elementarer und zentraler Player wie Cloud Flair
das jetzt aufnimmt und uns hier. Schützen möchte vor der
absoluten Q Day Apokalypse und dann noch eine.
News, die mich auch beruflich so ein bisschen bewegt hat in den
letzten 2 Wochen, da ich natürlich mit ganz vielen github
Kunden spreche. Ist eine Remote Code Execution
winability in github, also github.com und github Enterprise
Server, die zum Glück schon gefixt ist.
Also die Security researcher haben dort verantwortungsbewusst
diese Lücke an Github gemeldet und github hat innerhalb von
wenigen Stunden darauf reagiert, diese Lücke geschlossen und
bereits auch für github Enterprise Server entsprechende
fixes Released und erst nach einer gewissen Zeit, nachdem ja
jeder die Möglichkeit hatte diesen fix zu installieren,
wurde. Wurde von der Firma Wiz, die
diese Sicherheitslücke gefunden hat, das Ganze bekannt gemacht,
auch gemeinsam in einem Blogspot mit dem Security Team von
github, die beschrieben haben, was da letzten Endes passiert
ist. Aber am Ende war es ein relativ
einfacher Angriff, den Wiz dort gefunden hat und zwar über.
Entsprechende Optionen, die du bei einem Git Push mitgegeben
hast, die dann wiederum auf der Serverseite falsch interpretiert
wurden. Dort konntest du dann über einen
entsprechenden Separator, also über einen Semikolon eigene Key
Value Pairs Reingeben, die dann am Ende einen Override von der
entsprechenden Sicherheitsprüfung ermöglicht
haben und dann am Ende die ermöglicht haben eigenen Code
auszuführen, also von daher durchaus eine sehr signifikante
Sicherheitslücke, die sich ja oft.
Offensichtlich sehr lange im github Code befunden befunden
hat aber jetzt zum Glück gefixt. Ist aber aus meiner Sicht
durchaus ein positives Beispiel, wie hier auch 2 Unternehmen sehr
verantwortungsvoll zusammengearbeitet haben.
Ja fand ich auch fair gespielt. Also Wiz gehört ja glaube ich
mittlerweile zu Google. Also wenn man es ganz streng
nimmt, auch zur Konkurrenz von github, die ja zu Microsoft
gehören. Und fand ich auch gut gespielt.
Und es ist natürlich wichtig, jetzt trotzdem zu wissen, dass
jetzt, wo die Sicherheitslücke zwar gefixt, aber auch
veröffentlicht ist, natürlich die Gefahr für alle, die ihre
Version von github, die sie vielleicht selber betreiben,
noch nicht geupdatet haben, natürlich jetzt besonders
gefährdet sind, weil jetzt jede Angreifer, jede Angreiferin da
draußen diese Sicherheitslücke kennt, deswegen auf jeden Fall.
Schaut mal, wenn ihr auf github.com seid, also wenn ihr
die online die Cloud desaß Variante von github benutzt,
dann seid ihr eh nicht betroffen, aber.
Aber wenn ihr eben Github selber betreibt, dann müsst ihr
schauen, dass ihr das geupdatet habt und es ist schon spannend,
dass wir in so einer Welt leben, wo jetzt auch so alte, ewig lang
nicht entdeckte Sicherheitslücken immer öfter
zutage kommen. Ja, ich glaube, gerade wenn
jetzt. Neue Sicherheitstools verwendet
werden, die auch solche KI Modelle verwendet werden.
Da in den vergangenen Folgen schon immer wieder mal drüber
gesprochen. Dann werden halt auch immer mehr
alte Lücken gefunden. Wir hatten ja über irgendwie
eine Lücke in in Linux gesprochen in der Vergangenheit
und in anderen Firefox und anderen Tools, die sich
teilweise wirklich schon sehr lange in der.
Codebase befunden haben und ich glaube, das wird immer häufiger.
Und jetzt gibt es ja auch noch Tools, die dann allen zur
Verfügung stehen und nicht nur irgendwie ausgewählten
Unternehmen, die irgendwie auf die sagenumwobenen Mythos
Modelle Zugriff haben, sondern mit Cloud Security, die jetzt
öffentlich das jetzt öffentlich verfügbar ist, können jetzt
Unternehmen auch eine eigene Sicherheitslösung von Entropic
verwenden, um ihre eigenen Applikationen durch KI testen zu
lassen. Genau da gibt es jetzt eine
Public. Beta zumindest für Enterprise
Kunden. Also wenn ihr auf dem Enterprise
Plan von Clawd seid, dann sollte bei euch in der Navigation von
der App jetzt auch dieses Security Panel auftauchen und
was eben passiert ist. Clawd scannt das Repo und sie
sagen selber das denkt dabei wie ein Security Researcher, das
heißt es sucht nicht nach bekannten Patterns die quasi
auch eine statische Grundanalyse finden kann, sondern versucht
wirklich Komponenten und wie diese miteinander interagieren
zu verstehen, auch über mehrere. Subprojekte und Dateien hinweg
und Traced dann da so ein bisschen den Datenflow und liest
den liest den Source Code aus und wenn es dann fertig ist,
kriegt man eben von Cloud so eine detaillierte Erklärung über
die Findings zusammen mit so einem Confident Level und wie
sicher ist sich Cloud denn eigentlich, dass das wirklich
eine Sicherheitslücke sein könnte und idealerweise dann
natürlich auch direkt eine Anleitung wie man das fixen
kann? Wir haben ja letztes Mal schon
gesagt, es war in den ersten Previews, die es irgendwie gab,
auch ziemlich teuer. Also ich glaube, das kostet
schon irgendwie. Ich erinnere mich nicht gerade,
was 15 oder $25 war pro Scan, den man dann einmal durch seine
ganze ganze Codebase laufen lassen kann, wahrscheinlich das.
War ein einfaches Pull Request Review.
Okay krass, das ist dann wahrscheinlich.
Noch mal weniger also die Menge an Tokens, die da verbrannt
wird. Die ist natürlich dann schon
essentiell. Auf der anderen Seite, wenn ich
einmal, wenn ich für $25 oder vielleicht auch für 50 oder
vielleicht auch sogar für für $500,00 einmal ein komplettes
Sophisticated Security Review von meinem Code bekomme, dann
ist es das vielleicht sogar in der heutigen Welt wert, also
auch wenn das natürlich jetzt in der Token und Ai Welt Ultra viel
wirkt, das ist ja nichts, was ich jetzt jeden Tag mache.
Ich habe es selber noch nicht ausprobieren können, aber es
klingt jetzt erstmal vielversprechend und vor allem
in der Welt, wo ja auch jetzt jeder für $25 meinen Code,
solange der öffentlich ist, damit scannen könnte, lohnt es
sich vielleicht, den selber mal zuerst gescannt zu haben.
Ja, ich glaube, es gibt da jetzt gerade.
So diese 2 Ansätze KI zu verwenden, um Anwendungen zu
testen, also einmal mit Zugriff auf den Source Code, also quasi
ergänzend zu meiner statischen Code Analyse und dann ohne die
Anwendung oder ohne den Source Code zu kennen als Penetration
Tester von außen, wo ich vielleicht in der Vergangenheit
eine dynamische Applikationstest.
Test Suite hatte die irgendwie automatisiert meine Applikation
getestet hat, plus irgendwie ein manuelles Penetration Testing
habe ich jetzt zusätzlich halt noch das KI gestützte
Penetration Testing und in der Kombination von beiden kann ich
dann natürlich vielleicht heute viel schneller auch solche
Lücken finden als in der Vergangenheit, wo ich darauf
angewiesen war, dass entweder die Hersteller von diesen
statischen Tools bestimmte Regeln implementiert hatten oder
dass halt ein menschlicher Researcher diese.
Diese Kombinationen zusammengeführt hat und gesagt,
Hey, wenn ich jetzt dort folgendes Pattern sehe und dann
an der anderen Stelle folgendes Pattern, dann kann das über
Systemgrenzen hinweg vielleicht ausgenutzt werden, so ähnlich
wie in der gerade von uns beschriebenen Sicherheitslücke,
die sich da in der Gitter Plattform befunden hat.
Ja, und wenn man jetzt solche Large Language Models verwendet
um eine Sicherheitsprüfung zu machen, kann man sie natürlich
auch verwenden, um eine Klassifizierung von potenziellem
Missbrauch zu machen. Und offensichtlich hat Anthropic
genau das gemacht, um halt herauszufinden, ob jemand den
Standard und die Standard Subscription von Cloud
verwendet, um so einen eigenen KI Agenten zu betreiben.
Und da gibt es ja den Hermes KI Agenten den einige benutzen und
haben sie anscheinend darauf geschaut ob irgendwo in den
Comits oder in den Dateien die Datei Hermes MD erwähnt wird und
da gab es wohl die eine oder andere Person die dann
plötzlich. Plötzlich eine relativ heftige
Rechnung bekommen hat für Halt eine Übernutzung der Anthropic
AP is über ihren Subscription Plan und sich dann gewundert hat
warum eigentlich und es stellte sich raus, dass irgendwo in
einem ganz alten Comit diese Hermes MD erwähnt wurde, damals
noch vielleicht in einem völlig anderen Kontext, aber
anscheinend hat der Classifier angeschlagen und sofort das
Billing System kontaktiert und diesen Usern eine extrem hohe
Rechnung zukommen lassen das Ganze.
Wurde dann erstmal vom Support abgebügelt, aber dann nachher
auch als Fehler von Anthropic anerkannt und das Geld
zurückerstattet. Sie haben mittlerweile das
Problem auch behoben, aber es zeigt auch wenn man solche Large
Language Models dann verwendet um solche Aufgaben zu
übernehmen, die vorher deterministisch durch statischen
statischen Code übernommen wurden, dann kann das natürlich
auch hier und da zu Fehlkonfigurationen kommen.
Ist eine gute Geschichte also. Wenn wenn Hermes jetzt nichts
sagt, das ist sowas wie Open Claw, eigentlich eine Open Claw
Alternative und da hat sich ja in Tropic so ein bisschen noch
so ein Ei gelegt, dadurch, dass sie sehr schnell gesagt haben,
ja, könnt ihr zwar benutzen, aber auf gar keinen Fall mit der
Subscription, die ihr hier für 20 oder auch teilweise für $100
im Monat kauft, müsst ihr über API Keys machen und die sind
aber gar nicht sehr teuer und dann haben sie scheinbar hier
irgendwie eingebaut um zu erkennen ob man sein Hermes eben
über ein API Key oder diese Claw subscription betreibt.
Das ist sie dann automatisch, wenn Sie irgendwo Hermes MD
lesen. Das ist Billing Routen auf
dieser API Schnittstelle, das hat Open AI ganz geschickt
gemacht, die haben nämlich zum Beispiel jetzt announced, dass
du ja die sagen ja, uns ist es egal wenn du eine Codec
subscription hast, kannst du die auch mit Open Claw benutzen,
vielleicht hat er da auch irgendwie Peter Steinberger
seine Finger im Spiel, das ist ja der Gründer und
Hauptdeveloper von Open Claw, der dann mittlerweile zu Open Ai
gegangen ist. Aber ich weiß nicht ob sich.
Topic da so einen großen Gefallen Mitgetan hat, aber
wahrscheinlich mussten sie es tun, weil wir haben ja heute
schon über die Kapazitätsengpässe gesprochen,
aber auch Open Air hat sich ein kleines Ei gelegt diese Woche
und zwar ist da immer wieder aufgekommen in letzter Zeit,
dass vor allem Kodex. Extrem viel über kleine Goblins
erzählt, also so kleine Gnome im deutschen Glaube ich.
Und da war man sich gar nicht so bewusst, wo das herkam.
Aber vor allem in den neueren Modellen kam immer wieder raus,
und das war wahnsinnig verwirrend.
Ich weiß nicht, ob das jemandem von euch schon mal passiert ist.
Ich habe es selber und bei mir noch nicht gesehen, aber viele
User haben auf Social Media dann Screenshots gepostet, dass das
Modell einfach einmal anfängt über kleine Gnome und kleine
Wichte und diese Goblins halt irgendwie zu sprechen und.
Und Open Eye scheint sich selber nicht so ganz sicher zu sein, wo
das herkommt und warum. Und jetzt hat man im System
prompt von Codex gefunden, dass da halt wirklich wortwörtlich
drin steht. Never talk about Goblins, das
heißt, deren Fix war dann einfach das in den System prompt
reinzuschreiben und zu sagen, Ey hör doch auf über diese Gnome zu
reden und Open Eye selber gerade auch so ein bisschen auf der
Suche, wo denn das eigentlich herkommt, dass das.
Das Modell auf einmal über diese Goblins spricht, aber das fand
ich noch eine. Ja, es tut halt keinem weh, aber
fand ich eine lustige Anekdote noch gegen Ende?
Ja, ich glaube der lustigste Teil sind.
Tatsächlich die Goblins. Aber es gab wohl noch ein paar
andere Tiere oder so, die häufiger vorkamen wie irgendwie
Waschbären und Tauben, also irgendwelche Dinge, die halt
irgendwie. Vielleicht Dinge sind, die
Menschen irgendwie in ihrem Alltag sehr beschäftigen, aber
die natürlich nichts mit der Softwareentwicklung zu tun
haben. Aber dass man dann tatsächlich
einem Coding Agenten sagt, sprich bitte nicht über
Waschbären, Goblins und Tauben, außer der User will mit ihr
darüber sprechen, es ist schon tatsächlich etwas lustig, das
ist natürlich schade für alle Tauben und.
Waschbärenforscher für die jetzt quasi Codex komplett useless
geworden ist. Es gibt einen blogspot von
Roadmay Eye, wo sie versuchen, das so ein bisschen
aufzuarbeiten. Das heißt, wo die Goblins
herkommen, den verlinken wir unten, der ist eigentlich ganz
lustig, also 5 Minuten kann man sich den durchlesen, sie
versuchen das so ein bisschen aufzuarbeiten, sagen vor allem,
das liegt irgendwie am Testing und am und am Feintuning
nachher, dass sie da Sachen, wieso evidenzen gefunden haben,
aber genau, wer die Woche lustig starten möchte, der Adoly kann
sich ja diesen blogspot durchlesen und mal gucken, ob
bei der nächsten Codec Session weniger Goblins auftauchen und.
Wo ihr auf jeden Fall aber gerne Goblins auftauchen lassen könnt,
ist in den Kommentaren zu dieser Folge.
Also wenn euch die Folge gefallen hat, wenn ihr
vielleicht aber auch irgendwelche
Verbesserungsvorschläge habt, dann dann lasst uns das auch
gerne in Goblin Form wissen und schreibt uns einen lustigen
Kommentar. Freuen wir uns natürlich immer
drüber, wenn ihr da was hinterlasst, ihr könnt uns auch
gerne privat eine e Mail schreiben, wenn ihr das nicht
öffentlich machen wollt. Und wenn ihr auf einer Plattform
unterwegs seid, wo man diesen Podcast hier vielleicht mit
einem Sternchen oder einem Daumen bewerten kann wie Spotify
oder youtube, dann freuen wir uns darüber natürlich auch immer
sehr. Und wie immer, wenn euch der.
Podcast weitergebracht hat und ihr euch freut, dass er
tatsächlich diese Woche am Montagmorgen kommt und nicht am
Montagabend? Dann gebt uns gerne einen Kaffee
aus, das könnt ihr über den Link in den Show Notes machen, da
gibt es die Webseite bei mir coffee.com.
Und wie immer findet ihr dann auch namentliche Erwähnung in
einer der nächsten Folgen, ansonsten am allermeisten.
Freuen wir uns natürlich darüber, wenn ihr nächste Woche
wieder mit dabei seid. Der to do Cast erscheint nämlich
jede Woche, jeden Montag, immer abwechselnd mit einer News
Folge, wie dieser hier oder einer Themenfolge, wo wir dann
ein Thema vorbereiten und diskutieren, freuen wir uns
natürlich auch, wenn ihr da beim nächsten Mal wieder mit dabei
seid, bis dahin habt eine gute Woche, habt eine gute Zeit und
schreibt ganz viel Code bis dahin.