1 00:00:00,160 --> 00:00:02,960 Du hast bestimmt schon einmal von prompt Engineering gehört, 2 00:00:03,040 --> 00:00:05,280 aber viel wichtiger ist eigentlich das Kontext 3 00:00:05,280 --> 00:00:08,160 Engineering. In dieser Folge tauchen wir tief 4 00:00:08,160 --> 00:00:12,000 daran ein, wie man mit einer KI mit dem richtigen strukturierten 5 00:00:12,000 --> 00:00:15,520 Kontext versorgt, um brauchbare Ergebnisse zu bekommen. 6 00:00:15,680 --> 00:00:18,000 Wir erklären, warum gerade in der Softwareentwicklung ein 7 00:00:18,000 --> 00:00:21,240 fokussierter Kontext super wichtig ist, wie man diesen 8 00:00:21,240 --> 00:00:25,200 Kontext aufbaut und warum das traditionelle prompt Engineering 9 00:00:25,280 --> 00:00:27,280 nach und nach an Relevanz verliert. 10 00:00:27,600 --> 00:00:32,080 Außerdem gibt es ein paar Tipps gegen KI, Halluzinationen und 11 00:00:32,080 --> 00:00:35,280 wie wir mit LN MS besser coden. Viel Spaß damit. 12 00:00:42,990 --> 00:00:46,190 Es ist noch immer heiß und stehen noch immer die 13 00:00:46,190 --> 00:00:51,070 Schweißperlen auf der Stirn, aber trotzdem gibt es eine 14 00:00:51,070 --> 00:00:53,630 Nigelnagelneue Folge. Vom to do cast. 15 00:00:53,630 --> 00:00:58,790 Dem Developer Podcast mit dem schwitzenden Malte Lantin und 16 00:00:58,790 --> 00:01:01,440 dem. Mindestens genauso schwitzenden. 17 00:01:01,440 --> 00:01:06,120 Robin Manuel Thiel ich hoffe, dass wir das. 18 00:01:06,120 --> 00:01:07,200 Irgendwann mal in den Griff kriegen. 19 00:01:07,200 --> 00:01:09,680 Ansonsten müssen wir uns mal ein klimatisiertes Podcast Studio 20 00:01:09,680 --> 00:01:14,400 besorgen, denn unter Beleuchtung und Lichtern, die hier auf uns 21 00:01:14,480 --> 00:01:18,400 scheinen und dicken Kopfhörern, die wir auch haben, ist es nicht 22 00:01:18,400 --> 00:01:21,640 unbedingt erfrischender. Umso erfrischender sind 23 00:01:21,640 --> 00:01:23,520 natürlich die. Kaffee, die wir von euch. 24 00:01:23,520 --> 00:01:27,840 Ausbekommen haben ausgegeben bekommen, haben so das Gehirn 25 00:01:27,840 --> 00:01:31,280 hat schon den ersten Ausfall gehabt heute hoffentlich nur am 26 00:01:31,280 --> 00:01:33,600 Anfang, deswegen ganz, ganz lieben Dank, Wir haben Kaffee 27 00:01:33,600 --> 00:01:37,600 ausgegeben, bekommen zweimal von Oliver und einmal von Nico. 28 00:01:37,600 --> 00:01:39,760 Und da haben wir uns vielleicht die einen oder anderen Eiswürfel 29 00:01:39,760 --> 00:01:41,720 reingelegt und. Uns damit über die Woche 30 00:01:41,720 --> 00:01:42,960 gerettet. Ganz lieben Dank. 31 00:01:43,520 --> 00:01:46,160 Vielen Dank dafür. Aber damit wollen wir mal ins 32 00:01:46,160 --> 00:01:49,680 Thema der heutigen Folge einsteigen, nämlich context 33 00:01:49,680 --> 00:01:52,720 Engineering und so wie wir die letzten Folgen immer und immer 34 00:01:52,720 --> 00:01:55,520 wieder über das Wetter reden, reden wir auch in den letzten 35 00:01:55,520 --> 00:01:59,600 Folgen immer und immer wieder über Themen rund um künstliche 36 00:01:59,600 --> 00:02:02,400 Intelligenz in der Softwareentwicklung und dazu 37 00:02:02,400 --> 00:02:05,920 gehört halt auch context Engineering, wie manche sagen, 38 00:02:05,920 --> 00:02:09,360 als Evolution oder Weiterentwicklung von prompt 39 00:02:09,360 --> 00:02:11,680 Engineering. Wie sieht das aus? 40 00:02:11,680 --> 00:02:13,200 Aus deiner Sicht? Ist es wirklich eine 41 00:02:13,200 --> 00:02:15,440 Weiterentwicklung des prompt engineerings? 42 00:02:15,680 --> 00:02:17,720 Ja, ob jetzt. Weiterentwicklung, Ergänzung 43 00:02:17,720 --> 00:02:19,440 oder Fokus weiß ich gar nicht so genau. 44 00:02:19,840 --> 00:02:23,360 Es war ja schon immer so, dass der Kontext ein großer Teil von 45 00:02:23,360 --> 00:02:26,280 meinem Gesamtprompt war. Also ich nehme eben eine 46 00:02:26,280 --> 00:02:28,720 Anweisung, was ein Latch Language Model machen wollen 47 00:02:28,800 --> 00:02:32,480 soll, habe ich ja schon immer Zusatzinformationen mitgegeben, 48 00:02:32,480 --> 00:02:35,720 teilweise auch getippt und ich. Jetzt. 49 00:02:35,720 --> 00:02:37,520 Stellt sich aber so ein bisschen raus, dass das der. 50 00:02:37,520 --> 00:02:40,040 Wichtigste Teil zu. Werden scheint und dass diese 51 00:02:40,040 --> 00:02:43,040 Modelle einfach besser darin werden zu verstehen, was ich von 52 00:02:43,040 --> 00:02:46,560 ihnen will und das muss ich gar nicht mehr so klar irgendwie 53 00:02:46,560 --> 00:02:49,840 strukturieren, sondern eben den richtigen Kontext, die richtigen 54 00:02:49,840 --> 00:02:53,040 Informationen bereitzustellen, auch im richtigen Schritt. 55 00:02:53,040 --> 00:02:55,960 Oft habe ich ja nicht nur eine einzelne Anfrage an so Modellen 56 00:02:55,960 --> 00:02:58,240 krieg ich eine Antwort. Es haben heute so so. 57 00:02:58,240 --> 00:03:02,000 Agentenbasierte Workflows, aber im richtigen Schritt von diesen 58 00:03:02,000 --> 00:03:04,840 Workflows. Die richtigen Informationen dem 59 00:03:04,840 --> 00:03:06,520 Modell. Bereitzustellen auch in der. 60 00:03:06,520 --> 00:03:10,480 Richtigen Menge, sodass es dann plausibel die Aufgabe lösen 61 00:03:10,480 --> 00:03:12,880 kann, die man ihm gibt. Das scheint gerade so der 62 00:03:12,880 --> 00:03:18,160 wichtigste Teil zu werden, zumindest so vom ganz aktuellen 63 00:03:18,160 --> 00:03:21,720 Stand, wo wo stehen wir heute in der Industrie und das nennt man 64 00:03:21,720 --> 00:03:23,880 so ein bisschen Kontext Engineering, also den richtigen 65 00:03:23,880 --> 00:03:25,920 Kontext dann zur richtigen Zeit in der richtigen Menge 66 00:03:25,920 --> 00:03:27,840 Reinzugeben und das scheint zumindest. 67 00:03:27,840 --> 00:03:30,760 Gerade so das Wichtigste zu. Sein und ich glaube deswegen 68 00:03:30,760 --> 00:03:32,280 gerade so ein bisschen der Fokus drauf und. 69 00:03:32,880 --> 00:03:34,800 Ob das jetzt Prom Engineering ersetzt, weiß ich nicht, aber 70 00:03:34,800 --> 00:03:36,560 ich glaube, es rückt so ein bisschen in den Hintergrund, wie 71 00:03:36,560 --> 00:03:39,040 wir den Promp bauen. Und es wird wichtiger, was wir 72 00:03:39,040 --> 00:03:41,680 damit reingeben. Ja, ich glaube, es kommt ein 73 00:03:41,680 --> 00:03:45,360 bisschen davon darauf an, welche Werkzeuge ich einsetze. 74 00:03:45,360 --> 00:03:47,280 Ich glaube, wenn ich irgendwie so ein Bild oder 75 00:03:47,280 --> 00:03:50,640 Musikgenerierungstool habe, dann bin ich häufig so in diesem 76 00:03:50,640 --> 00:03:53,240 klassischen prompt Engineering, wo ich irgendwie eine Textbox, 77 00:03:53,240 --> 00:03:56,080 irgendwie eine Anweisung schreibe, möglichst präzise, was 78 00:03:56,080 --> 00:03:58,840 ich erreichen möchte. Aber wenn wir jetzt den Kontext 79 00:03:58,840 --> 00:04:02,080 wechseln und so ein Multi Purpose Tool, irgendwie ein 80 00:04:02,080 --> 00:04:05,280 Chat, GPT oder ähnliche verwenden oder halt ein Coding 81 00:04:05,280 --> 00:04:08,800 Tool, da wird es immer wichtiger wirklich diesen Kontext zu bauen 82 00:04:08,800 --> 00:04:10,880 und den kann ich entweder in meiner Chatbox bauen oder ich 83 00:04:10,880 --> 00:04:14,400 kann Dateien anhängen oder das Tool was ich habe bietet noch 84 00:04:14,400 --> 00:04:17,640 andere Möglichkeiten diesen Kontext möglichst gut und 85 00:04:17,640 --> 00:04:20,959 präzise aufzubauen und darum soll es natürlich jetzt im 86 00:04:20,959 --> 00:04:24,800 Folgenden im Detail gehen und wir schauen uns einfach mal an 87 00:04:24,960 --> 00:04:27,040 wie sich das so ein bisschen auch. 88 00:04:27,200 --> 00:04:31,360 In der Definition unterscheidet. Dabei kann der Kontext. 89 00:04:31,360 --> 00:04:34,120 Natürlich eigentlich alles sein, was ich irgendwie dem Date 90 00:04:34,120 --> 00:04:37,280 Language Model Mitgebe, als Information um. 91 00:04:37,600 --> 00:04:39,640 Die Aufgabe. Die ich ihm mal gebe zu lösen, 92 00:04:39,640 --> 00:04:41,640 das sind ganz viele Dinge, das ist wie du. 93 00:04:41,640 --> 00:04:43,240 Gerade gesagt hast Day the. User prompt. 94 00:04:43,240 --> 00:04:46,440 Also das, was ich in diese Textboxen mit Eintippe, das. 95 00:04:46,440 --> 00:04:47,840 Ist aber auch so. Quasi. 96 00:04:47,840 --> 00:04:50,000 Man nennt das System prompt. Also was der? 97 00:04:50,480 --> 00:04:53,200 Anbieter von einem bestimmten Tool da mit reingeschrieben hat. 98 00:04:53,200 --> 00:04:55,040 Ich glaube bei Getap Co peilt steht auch irgendwo drin. 99 00:04:55,040 --> 00:04:58,080 Du bist ein hilfreicher Agent der beim Coden hilft und so 100 00:04:58,080 --> 00:05:01,200 weiter also das ist ja oft dann was der der Tool Anbieter da mit 101 00:05:01,200 --> 00:05:03,520 reinschreibt. Dann gibt es sowas wie. 102 00:05:03,760 --> 00:05:06,800 Wie Long Term Memory. Also was hat das Tool? 103 00:05:06,800 --> 00:05:09,920 Vielleicht in den ganzen Nutzungen, die ich schon mit ihm 104 00:05:09,920 --> 00:05:12,160 habe. Über Informationen über mich 105 00:05:12,160 --> 00:05:14,400 gesammelt. Dann sind das natürlich aber 106 00:05:14,400 --> 00:05:15,280 auch Dinge. Wie? 107 00:05:15,920 --> 00:05:17,720 Wie? Kurzzeitgedächtnis nennt man das 108 00:05:17,720 --> 00:05:19,400 dann, also Short Term Memory, zum Beispiel. 109 00:05:19,400 --> 00:05:21,000 Was, was ist die bestehende Chat? 110 00:05:21,000 --> 00:05:23,880 Historie, die wir jetzt gerade. Hatten oder was ist vielleicht 111 00:05:23,880 --> 00:05:26,720 eine Zusammenfassung von einem längeren Dokument, wo wir, wo 112 00:05:26,720 --> 00:05:28,960 wir vor einer Minute in dem gleichen Thread drüber 113 00:05:28,960 --> 00:05:30,960 gesprochen haben. Es kann natürlich auch. 114 00:05:30,960 --> 00:05:33,440 Zusätzliche Informationen sein, die dann, bevor der prompt 115 00:05:33,440 --> 00:05:35,560 abgeschickt wird, von dem. Tool, das hattest. 116 00:05:35,560 --> 00:05:37,200 Du glaube ich gerade so ein bisschen gemeint noch mit 117 00:05:37,360 --> 00:05:40,160 Reingesogen und im Hintergrund, ohne dass ich das als User 118 00:05:40,160 --> 00:05:43,240 eigentlich sehe, da mit dran gehangen werden und das. 119 00:05:43,440 --> 00:05:45,920 Wir reden natürlich also auch seit mehreren Folgen über. 120 00:05:45,920 --> 00:05:49,200 Agenten, die selber Tools aufrufen. 121 00:05:49,200 --> 00:05:51,640 Können. Wir hatten vor 2 Folgen in 122 00:05:51,640 --> 00:05:54,080 diesem Vibe Coding Tool geht auch mal über sowas wie Kontext 123 00:05:54,080 --> 00:05:56,880 7 gesprochen, was dann selber Dokumentation sich mit 124 00:05:56,880 --> 00:05:59,920 reinziehen kann und zumindest diese Liste an Tools die LUT 125 00:06:00,080 --> 00:06:04,240 Language Model auch bedienen könnte um dem Ergebnis näher zu 126 00:06:04,240 --> 00:06:06,960 kommen, die wird auch mit Reingegeben und all das 127 00:06:07,280 --> 00:06:08,760 definiert dann ja irgendwann den Kontext. 128 00:06:08,760 --> 00:06:10,720 Also all das. Was das LUT Language Model 129 00:06:10,720 --> 00:06:12,800 irgendwie an Information gebrauchen könnte. 130 00:06:13,120 --> 00:06:16,520 Neben dem, was ich dann noch per Hand mit Reingetippt habe, formt 131 00:06:16,520 --> 00:06:20,320 dann letzten Endes den Kontext, aus dem sich das Modell bedienen 132 00:06:20,320 --> 00:06:21,640 kann. Das heißt, es hat dann alle 133 00:06:21,640 --> 00:06:23,880 Informationen auf der aus der ganzen Welt aus dem gesamten 134 00:06:23,880 --> 00:06:25,280 Internet, auf denen es trainiert wurde. 135 00:06:25,440 --> 00:06:27,840 Plus das, was von. Mir eben als Kontext mit 136 00:06:27,840 --> 00:06:29,360 Reingegeben wird und kann sich dann. 137 00:06:29,520 --> 00:06:30,960 An die Lösung der Aufgabe machen. 138 00:06:31,760 --> 00:06:36,000 Jedes dieser Sprachmodelle, die wir in unseren Tools einsetzen, 139 00:06:36,000 --> 00:06:40,080 hat ja dann bestimmte. Bestimmte Kapazität an Kontext, 140 00:06:40,080 --> 00:06:42,640 die es aufnehmen kann deswegen spricht man häufig auch von 141 00:06:42,640 --> 00:06:46,240 einem Kontext window oder in anderem Kontext wird dann 142 00:06:46,240 --> 00:06:48,600 einfach gesagt Token Limit, aber das ist ein bisschen abstrakter. 143 00:06:48,600 --> 00:06:51,240 Ich finde eigentlich diesen Begriff des Kontextfensters 144 00:06:51,240 --> 00:06:53,360 eigentlich gar nicht so verkehrt, das heißt, wieviel 145 00:06:53,360 --> 00:06:57,120 Kontext kann ich eigentlich technisch in das sprachmodell 146 00:06:57,120 --> 00:07:00,880 reingeben, wieviel Kontext sinnvoll ist und ob man das 147 00:07:00,880 --> 00:07:03,840 immer komplett ausreizen sollte, da sprechen wir gleich noch mal 148 00:07:03,840 --> 00:07:06,080 drüber, aber. Dabei, das findet man häufig 149 00:07:06,080 --> 00:07:08,560 dann in der Dokumentation solcher Large Language Models, 150 00:07:08,640 --> 00:07:12,480 also wie viele Tokens kann ich da reinwerfen als Kontext? 151 00:07:13,680 --> 00:07:16,880 Und auch. Genauso wie der Kontext Window 152 00:07:16,880 --> 00:07:19,200 Model abhängig ist, ist einfach. Durch die Art und. 153 00:07:19,200 --> 00:07:20,800 Weise, wieso ein Model trainiert wurde. 154 00:07:22,000 --> 00:07:25,200 Sind dann bestimmte Strukturen in bestimmten Prompts eben mehr 155 00:07:25,200 --> 00:07:27,600 oder weniger erfolgreich? Es hat sich zum Beispiel bei den 156 00:07:27,600 --> 00:07:30,560 openeye Modellen herausgestellt. Dass es sehr erfolgreich ist. 157 00:07:30,760 --> 00:07:33,280 Einen prompt in einer bestimmten Reihenfolge aufzubauen, also 158 00:07:33,360 --> 00:07:35,000 ganz am Anfang. Zu schreiben, was ist. 159 00:07:35,000 --> 00:07:37,280 Das Ziel, was ich erreichen möchte. 160 00:07:37,520 --> 00:07:39,760 Dann als zweites zu. Beschreiben, in welcher Art und 161 00:07:39,760 --> 00:07:42,840 weise ich das Ergebnis aufbereitet haben möchte. 162 00:07:42,840 --> 00:07:44,920 Man nennt das so ein bisschen return Format, also möchte ich 163 00:07:44,920 --> 00:07:47,280 einen JSON zurückbekommen oder ein Diagramm oder eine. 164 00:07:47,280 --> 00:07:49,880 Tabelle. Dann so ein paar, danach so ein 165 00:07:49,880 --> 00:07:53,320 paar Warnungen, also so ein bisschen achte auf dies und 166 00:07:53,320 --> 00:07:55,400 jenes und das und das habe ich schon probiert, das funktioniert 167 00:07:55,400 --> 00:07:56,800 nicht, oder? Stelle aber sicher, dass du. 168 00:07:56,880 --> 00:08:00,720 Folgendes auf jeden Fall machst und dann am Ende ebenso noch so 169 00:08:00,720 --> 00:08:02,840 eine Liste mit Zusatzinformationen mit dem 170 00:08:02,840 --> 00:08:08,080 Kontext, also Dinge die noch relevant sein könnten um um das 171 00:08:08,080 --> 00:08:11,360 Ganze zu lösen, die. Aufgabe die, die gestellt. 172 00:08:11,360 --> 00:08:13,200 Wurde und deswegen kann man auch, glaube ich, ganz klar 173 00:08:13,200 --> 00:08:16,800 sagen, dass context Engineering eben so ein Sub Part vom vom 174 00:08:16,800 --> 00:08:19,120 prompt Engineering ist und. Und es geht halt schon lange 175 00:08:19,120 --> 00:08:21,280 nicht mehr darum, nur noch den Cleversten prompt zu schreiben, 176 00:08:21,280 --> 00:08:23,240 sondern wirklich. Wir hatten ja schon vor ein 177 00:08:23,240 --> 00:08:25,040 Paar. Wochen, ein paar Wochen schon 178 00:08:25,040 --> 00:08:26,720 mal gesagt, immer wieder Kontext is King. 179 00:08:26,960 --> 00:08:31,520 Also ganz klar zu kuratieren, wann welcher Kontext sinnvoll 180 00:08:31,520 --> 00:08:34,200 ist. Ja, das liegt ja zum einen an 181 00:08:34,200 --> 00:08:37,679 der Weiterentwicklung der Werkzeuge, über die wir dann am 182 00:08:37,679 --> 00:08:40,720 Ende solche Sprachmodelle nutzen oder konsumieren. 183 00:08:40,799 --> 00:08:43,080 Aber zum anderen liegt das natürlich auch daran, dass diese 184 00:08:43,080 --> 00:08:45,600 Sprachmodelle einfach auch besser werden aus. 185 00:08:46,080 --> 00:08:50,800 Schlecht beschriebenen Aufgaben das richtige Ergebnis 186 00:08:50,800 --> 00:08:53,840 abzuleiten. Also ich kann teilweise wirklich 187 00:08:53,840 --> 00:08:56,920 mit einem Halbsatz schon das richtige Ergebnis erzielen, wo 188 00:08:56,920 --> 00:09:01,360 ich vielleicht noch vor ein, anderthalb Jahren wirklich einen 189 00:09:01,600 --> 00:09:04,200 kompletten Absatz in einer bestimmten Syntax schreiben 190 00:09:04,200 --> 00:09:07,760 musste, um wirklich zu einem guten Ergebnis zu kommen und von 191 00:09:07,760 --> 00:09:11,760 daher ändert sich das auch und es geht gar nicht mehr so darum, 192 00:09:11,920 --> 00:09:14,760 wirklich einen. Super guten prompt zu schreiben 193 00:09:14,760 --> 00:09:16,960 und damit werden vielleicht auch diese prompt Engineering 194 00:09:16,960 --> 00:09:18,880 classes, wie wir sie noch vor einiger Zeit hatten, ein 195 00:09:18,880 --> 00:09:21,680 bisschen weniger relevant, sondern es geht vor allen Dingen 196 00:09:21,840 --> 00:09:26,400 um den Kontext, also diesen Teil des Promptes, in dem ich halt 197 00:09:26,400 --> 00:09:29,120 relevante Informationen zusammenstelle, die für die 198 00:09:29,120 --> 00:09:31,760 Lösung des eigentlichen Problems entscheidend sind. 199 00:09:33,040 --> 00:09:35,680 Und das ganze Thema hilft uns natürlich vor allem beim Coding. 200 00:09:35,680 --> 00:09:37,440 Das ist ja immer noch ein developer Podcast hier 201 00:09:37,600 --> 00:09:40,040 allgemein. Context Engineering ist erstmal 202 00:09:40,040 --> 00:09:41,960 für. Ist überall da relevant? 203 00:09:41,960 --> 00:09:44,160 Wo wir KI verwenden, also vielleicht einfach bei Chat GPT. 204 00:09:44,800 --> 00:09:49,760 Aber gerade im Coding ist es oft erfolgsentscheidend, denn es 205 00:09:49,760 --> 00:09:52,320 gibt eine Umfrage. Also Qdu hat eine. 206 00:09:52,320 --> 00:09:54,400 Studie gemacht, die verlinken. Wir auch mal in den. 207 00:09:54,400 --> 00:09:58,480 Shownotes die heißt 25 state of AI code. 208 00:09:58,480 --> 00:10:01,040 Quality, Da haben Sie eine. Große Menge an. 209 00:10:01,040 --> 00:10:02,880 Programmiererinnen und Programmierern befragt. 210 00:10:03,600 --> 00:10:07,680 Wie sie generell zur Codequalität stehen, der den 211 00:10:07,680 --> 00:10:11,080 eine KI ausspuckt und. Fast alle sind sich darüber 212 00:10:11,080 --> 00:10:15,440 einig, dass es Produktivitäts und Effizienzgewinne gibt, aber 213 00:10:15,440 --> 00:10:19,240 auch fast alle, nämlich hier 76%, also ein 3, also 214 00:10:19,240 --> 00:10:22,040 dreiviertel der Befragten, haben sich aber auch darüber 215 00:10:22,040 --> 00:10:25,040 beschwert, dass sie eigentlich dem KI Code nicht wirklich 216 00:10:25,040 --> 00:10:28,160 vertrauen können und der Hauptgrund der der genannt 217 00:10:28,160 --> 00:10:31,680 wurde, ist Halluzination gewesen, also Halluzination von 218 00:10:31,840 --> 00:10:33,000 8. Apis, die es vielleicht gar 219 00:10:33,000 --> 00:10:35,640 nicht gibt, oder Methoden Calls, die es vielleicht gar nicht gibt 220 00:10:35,640 --> 00:10:38,880 oder die es vielleicht gar nicht in der Version von dem Tool oder 221 00:10:38,880 --> 00:10:42,320 der Librader dieses Frameworks, was ich jetzt hier in meinem 222 00:10:42,320 --> 00:10:47,440 Projekt anwende, gar nicht gibt. Und die Lösung für genau diese 223 00:10:47,440 --> 00:10:50,560 Dinge ist unter anderem ein gut kuratierter Kontext. 224 00:10:51,600 --> 00:10:54,160 Das hilft ja auch dabei wirklich. 225 00:10:54,640 --> 00:10:57,840 Die Informationen darüber zu liefern, wie mein 226 00:10:57,840 --> 00:11:00,640 Entwicklungsprojekt in Summe aussieht. 227 00:11:00,960 --> 00:11:04,840 Häufig habe ich gerade in der Anfangszeit dieser KI Tools für 228 00:11:04,840 --> 00:11:08,320 die Softwareentwicklung immer sehr lokal gearbeitet und da 229 00:11:08,320 --> 00:11:11,440 fehlt natürlich dann entsprechend die Information 230 00:11:11,600 --> 00:11:15,760 über die Gesamtstruktur oder welche internen Libraries AP is 231 00:11:15,760 --> 00:11:18,320 ich dort nutze und da kommt natürlich auch viel der 232 00:11:18,320 --> 00:11:21,360 Frustration her, nicht nur über Halluzinierte. 233 00:11:21,880 --> 00:11:25,040 Ap is, sondern teilweise auch über Dinge, die ich vielleicht 234 00:11:25,040 --> 00:11:27,160 auch in meinem Projekt schon mal gelöst habe. 235 00:11:27,160 --> 00:11:29,920 Und dann wird nicht einfach die entsprechende Library Methode 236 00:11:29,920 --> 00:11:32,640 aufgerufen, sondern das Ganze noch mal neu implementiert, weil 237 00:11:32,640 --> 00:11:35,600 halt zu dem Zeitpunkt dann einfach das Bewusstsein nicht da 238 00:11:35,600 --> 00:11:38,800 war, dass es bestimmte Informationen in dem Projekt 239 00:11:38,800 --> 00:11:41,400 schon gibt, auf die ich einfach wieder zurückgreifen kann, was 240 00:11:41,400 --> 00:11:44,080 natürlich auch so ein bisschen zu diesem Phänomen führt, was 241 00:11:44,080 --> 00:11:47,040 manche dann auch bei diesen in Anführungsstrichen wipecoded 242 00:11:47,200 --> 00:11:51,360 Applications beklagen, dass da ganz viel so immer wieder. 243 00:11:51,920 --> 00:11:55,920 Geschriebener Code auftaucht, das heißt viel Duplikation und 244 00:11:55,920 --> 00:11:58,000 andere Sachen, die ich eigentlich in der 245 00:11:59,920 --> 00:12:01,640 professionellen Softwareentwicklung vermeiden 246 00:12:01,640 --> 00:12:04,400 würde, indem ich halt klar strukturiere und 247 00:12:04,400 --> 00:12:07,120 wiederverwendbaren Code nutze. Genau das ist der Punkt. 248 00:12:07,120 --> 00:12:11,040 Also genau, es geht genau im Kontext Engineering darum, diese 249 00:12:11,040 --> 00:12:14,160 Information, die du gerade genannt hast, irgendwie, also 250 00:12:14,160 --> 00:12:15,960 zum richtigen Zeitpunkt, mich genau dann, wenn ich irgendwas 251 00:12:15,960 --> 00:12:18,960 implementieren will, was es vielleicht schon gab, mit. 252 00:12:19,600 --> 00:12:21,880 Dem Lutch Language Model Reingebe und das wird halt die 253 00:12:21,880 --> 00:12:24,800 Aufgabe von in uns in diesem Fall jetzt den den den Coding 254 00:12:24,800 --> 00:12:28,240 Tools sein, den Win den Win surfs Cursors geht ab Co Pilots 255 00:12:28,240 --> 00:12:31,560 dieser Welt das. Die richtigen Dateien zur 256 00:12:31,560 --> 00:12:34,360 Richtigen, zum richtigen Zeitpunkt zu finden und dem 257 00:12:34,360 --> 00:12:36,760 lasch Englisch Model mitzugeben. Denn immer wenn wir diesen 258 00:12:36,760 --> 00:12:39,520 Kontext kuratieren, dann müssen wir uns fragen, wenn wir, wenn 259 00:12:39,520 --> 00:12:42,280 wir dem Model eine Aufgabe oder eine Frage stellen, woher soll 260 00:12:42,280 --> 00:12:44,480 es das Wissen, also woher kann es das wissen, es ist ja nicht 261 00:12:44,480 --> 00:12:47,960 auf unserem Code trainiert, es ist auf alle möglichen Code 262 00:12:47,960 --> 00:12:49,840 trainiert, deswegen kann es programmieren. 263 00:12:50,080 --> 00:12:52,800 Aber es kennt ja jetzt erstmal nicht unser Projekt. 264 00:12:52,800 --> 00:12:54,600 Es ist ja nicht Teil des Trainings Sets und selbst wenn 265 00:12:54,600 --> 00:12:57,080 es Teil des Trainings Sets gewesen ist, kann kann das 266 00:12:57,080 --> 00:12:59,520 Modell das dann gar nicht so genau unterbrechen auf unser, 267 00:12:59,600 --> 00:13:02,960 auf unser eigenes Projekt, das heißt, ich muss zum richtigen 268 00:13:02,960 --> 00:13:05,880 Zeitpunkt, wenn du mich wenn du sagst Implementiere die oder 269 00:13:05,880 --> 00:13:10,960 jene Funktion alle eigentlich alle relevanten Dateien finden, 270 00:13:11,120 --> 00:13:14,080 das ist glaube ich die große Herausforderung finden und dann 271 00:13:14,080 --> 00:13:16,800 in diesen Kontext mit mit Reinzupacken und das müssen halt 272 00:13:17,200 --> 00:13:19,400 in unserem Fall irgendwann diese Tools machen und. 273 00:13:20,160 --> 00:13:22,040 Es gibt aber noch ein paar andere Dinge, die wir halt schon 274 00:13:22,040 --> 00:13:23,560 machen können. Und das ist ja, wie du gerade 275 00:13:23,560 --> 00:13:25,520 schon gesagt hast, unser Projekt gut zu beschreiben. 276 00:13:25,840 --> 00:13:29,440 Wir hatten in Folge 119 haben wir mal so ein Vibe Coding 277 00:13:29,440 --> 00:13:31,680 Toolkit, so ein bisschen mit so einem Augenzwinkern beleuchtet, 278 00:13:31,680 --> 00:13:34,000 aber auch ein paar relevante Sachen für uns rausziehen können 279 00:13:34,000 --> 00:13:36,320 und da haben wir schon mal im Detail über sowas gesprochen, 280 00:13:36,320 --> 00:13:39,600 wie dass wir zum Beispiel die Projektstruktur, also in welchem 281 00:13:39,600 --> 00:13:42,520 Ordner findest du denn was? Welche Komponenten? 282 00:13:42,520 --> 00:13:45,440 Wo findest du Tests? So findest du Dokumentation und 283 00:13:45,440 --> 00:13:47,760 so weiter dass man das so einem Modell auch einfach immer schon 284 00:13:47,760 --> 00:13:50,400 mal mitgeben kann, gerade in so einem agentenbasierten Workflow, 285 00:13:50,400 --> 00:13:52,960 wo vielleicht im ersten Schritt relevante Dateien gesucht 286 00:13:52,960 --> 00:13:56,760 werden, die dann in den Kontext gepackt werden und die dann alle 287 00:13:56,760 --> 00:13:58,560 zusammen dem Model gegeben werden. 288 00:13:58,560 --> 00:14:00,480 Oder sich eben Reinschreibe welche? 289 00:14:00,480 --> 00:14:03,520 Libraries ich in welcher Version verwende und so weiter und 290 00:14:03,520 --> 00:14:05,880 sofort, das kann ich ja alles schon mal in meinem Projekt 291 00:14:05,880 --> 00:14:08,160 definieren und dem Model automatisch mitgeben. 292 00:14:09,200 --> 00:14:11,520 Ja, und ich finde das ganz interessant, dass man wirklich 293 00:14:11,520 --> 00:14:15,440 sich diese Strategien überlegen muss, weil ja der, ich sag mal, 294 00:14:15,440 --> 00:14:19,280 naive Ansatz wäre jetzt, ich nehme einfach ein Sprachmodell 295 00:14:19,280 --> 00:14:22,680 mit dem ausreichend großen Kontext window zum Beispiel so 296 00:14:22,680 --> 00:14:26,680 ein aktuelles Germany pro Modell, was ein riesiges Kontext 297 00:14:26,680 --> 00:14:29,440 window hat und schmeißt einfach mein komplettes Projekt da rein, 298 00:14:29,440 --> 00:14:32,640 weil dann ist der ganze Kontext ja alles was mein. 299 00:14:33,440 --> 00:14:36,400 Large language mal jetzt braucht, um beliebige Probleme 300 00:14:36,640 --> 00:14:40,560 in diesem Projekt zu lösen sind ja jetzt ist ja jetzt vorhanden, 301 00:14:40,560 --> 00:14:44,720 ich habe ja alles reingeworfen, aber wie man tatsächlich in der 302 00:14:44,720 --> 00:14:48,640 Praxis sieht, bedeutet das nicht, dass das Sprachmodell 303 00:14:48,640 --> 00:14:52,320 plötzlich ein vollständiges Verständnis des Projektes hat, 304 00:14:52,480 --> 00:14:56,480 sondern es führt tatsächlich auch vielleicht zu negativen 305 00:14:56,480 --> 00:15:01,120 Effekten, weil ich wirklich auch den Fokus verliere und genauso, 306 00:15:01,120 --> 00:15:05,120 wenn ich dir jetzt sage. Du hast relativ wenig Zeit. 307 00:15:05,240 --> 00:15:08,160 Du hast folgendes Problem zu lösen, hier ist die komplette 308 00:15:08,160 --> 00:15:10,600 Codebase, dann funktioniert das wahrscheinlich weniger schlecht 309 00:15:10,600 --> 00:15:12,800 als wenn ich sage ich kenne das Projekt. 310 00:15:12,800 --> 00:15:16,800 Du hast folgendes Problem und schau dir mal diese Bereiche in 311 00:15:16,800 --> 00:15:19,840 dem Projekt an, da ist alles drin was du wissen musst um 312 00:15:19,840 --> 00:15:23,560 dieses Problem zu lösen. Wie hat Elon Musk letzte Woche 313 00:15:23,560 --> 00:15:25,760 gesagt? Grog kann den ganzen Code 314 00:15:25,760 --> 00:15:28,080 irgendwie lösen, der. Du kannst deine komplette Code 315 00:15:28,080 --> 00:15:29,440 Datei da reinschmeißen. Also. 316 00:15:30,080 --> 00:15:33,720 Solange deine komplette Codebase nur eine Datei ist, funktioniert 317 00:15:33,720 --> 00:15:36,320 das vielleicht auch. Aber wir reden jetzt natürlich 318 00:15:36,320 --> 00:15:40,400 hier über größere, komplexere Projekte und da zeigt die 319 00:15:40,400 --> 00:15:44,000 Erfahrung, dass es nicht die Lösung ist, einfach möglichst 320 00:15:44,000 --> 00:15:46,240 viel in den Kontext reinzuschmeißen. 321 00:15:46,640 --> 00:15:49,720 Wo über diese Large Language Modelle halt einfach nicht gut 322 00:15:49,720 --> 00:15:52,040 drin sind, sind Entscheidungen zu treffen und. 323 00:15:52,400 --> 00:15:54,160 Und das ist ja eigentlich ein bisschen, das wird ja, glaube 324 00:15:54,160 --> 00:15:56,360 ich, immer auch damit geworben, gerade bei Germany 25, da kannst 325 00:15:56,360 --> 00:16:00,160 du deine gesamte Codebase theoretisch in das Modell in 326 00:16:00,160 --> 00:16:03,600 einen Prom mit reinpacken, ist aber nicht sinnvoll, weil wir 327 00:16:03,600 --> 00:16:06,080 haben auch gelernt, dass sich solche Modelle auch dann immer 328 00:16:06,080 --> 00:16:08,440 wieder verwirren lassen und gerade wenn ich so eine 329 00:16:08,440 --> 00:16:11,520 agentenbasierte Schleife irgendwie durchlaufe, dann hier 330 00:16:11,520 --> 00:16:15,840 ganz klar der Tipp kontrolliert selber, was damit mit reinkommt. 331 00:16:15,840 --> 00:16:17,800 Also selbst wenn ihr irgendwie selber Agenten baut, jetzt gar 332 00:16:17,800 --> 00:16:19,600 nicht unbedingt im Coding benutzt, sondern irgendwie 333 00:16:19,600 --> 00:16:21,320 selber mit irgendeinem Tool euch Agenten baut, dann. 334 00:16:21,600 --> 00:16:24,480 Dann gibt es zum Beispiel so den ganz klassischen Fehler, dass 335 00:16:24,480 --> 00:16:27,840 man sagt, ach guck mal, wenn hier irgendwas fehlschlägt, 336 00:16:27,840 --> 00:16:31,280 irgendein Tool, Call, irgendeine API, irgendwas fehlschlägt, dann 337 00:16:31,280 --> 00:16:33,760 nehme ich die Fehlermeldung davon und pack die einfach mit 338 00:16:33,760 --> 00:16:36,960 in den Kontext rein und sag einfach dem Modell, guck mal, 339 00:16:36,960 --> 00:16:38,920 jetzt hast du eine neue Information bekommen, Versuch 340 00:16:38,920 --> 00:16:41,000 noch mal und dann kann es aber sein, dass. 341 00:16:41,120 --> 00:16:44,080 Dass ich diese Schleife so oft durchlaufe, dass da 567 342 00:16:44,080 --> 00:16:46,080 Fehlermeldungen im Coding teilweise zum Beispiel mit 343 00:16:46,080 --> 00:16:48,880 gesamtem Stack Trace drin sind, das Ding quasi wirklich 344 00:16:48,880 --> 00:16:52,800 vollgemüllt in Anführungszeichen wird und die Ergebnisse immer 345 00:16:52,800 --> 00:16:54,560 schlechter werden und wir wirklich irgendwie sehen, dass 346 00:16:54,560 --> 00:16:58,000 das, dass die Modelle crazy werden, also ganz klar. 347 00:16:58,480 --> 00:17:01,360 Kuratiert diesen Kontext, wenn es einen erfolgreichen Tool Call 348 00:17:01,360 --> 00:17:03,840 nach all den Fehlern gab, dann schmeißt die Fehlermeldungen 349 00:17:03,840 --> 00:17:05,240 wieder raus. Bei den meisten Tools, also bei 350 00:17:05,240 --> 00:17:07,920 Get Up Copile kann man es zum Beispiel, wenn man mit dem mit 351 00:17:07,920 --> 00:17:11,040 dem Chat Modus auf der an der Seite arbeitet, auch wieder 352 00:17:11,040 --> 00:17:13,319 einzelne Nachrichten aus der Vergangenheit löschen, man muss 353 00:17:13,319 --> 00:17:16,720 ja Bewusstsein, dass die gesamte Chat Historie teil. 354 00:17:17,960 --> 00:17:19,880 Oder irgendwie zumindest herangezogen wird, um die 355 00:17:19,880 --> 00:17:21,760 Aufgabe zu lösen. Und da kann ich auch eben 356 00:17:21,760 --> 00:17:23,760 relevante Sachen, die jetzt nicht mehr wichtig sind, weil 357 00:17:23,760 --> 00:17:26,880 das Problem vielleicht gelöst wurde, da auch wieder mit 358 00:17:26,880 --> 00:17:29,640 rausnehmen oder vielleicht einfach, wenn ich selber einen 359 00:17:29,640 --> 00:17:33,200 Agenten baue, sagen, du kannst maximal 3 mal wieder verwenden 360 00:17:33,200 --> 00:17:34,600 und wenn es dann erfolgreich war, schmeißt du die 361 00:17:34,600 --> 00:17:36,960 Fehlermeldungen wieder raus und so weiter also ich glaube man 362 00:17:36,960 --> 00:17:39,600 muss sich ja schon Bewusstsein, nur weil der Kontext so groß 363 00:17:39,600 --> 00:17:41,840 werden kann. Heißt es nicht, dass er so groß 364 00:17:41,840 --> 00:17:44,040 werden sollte, sondern dass es eigentlich nur dafür darf, wenn 365 00:17:44,040 --> 00:17:49,040 wirklich alles, alles relevante so groß ist für die aktuelle 366 00:17:49,040 --> 00:17:52,640 Aufgabe heißt aber nicht wie gesagt, dass man den auf jeden 367 00:17:52,640 --> 00:17:56,880 Fall vollpacken sollte. Das Gute ist für uns aber 368 00:17:56,880 --> 00:17:59,760 zumindest als Software Developer, dass das ein 369 00:17:59,760 --> 00:18:02,880 bekanntes Problem ist. Das heißt viele der Tool 370 00:18:02,880 --> 00:18:05,920 Hersteller, die Tools für die Softwareentwicklung anbieten. 371 00:18:06,560 --> 00:18:09,680 Lösen dieses Problem teilweise schon für uns, indem sie 372 00:18:09,680 --> 00:18:12,800 künstlich auch diesen Kontext beschränken. 373 00:18:12,800 --> 00:18:15,280 Das heißt, nur weil ich in meinem Coding Tool der Wahl 374 00:18:15,280 --> 00:18:18,720 jetzt Terminal 25 Pro auswähle, heißt es nicht, dass ich 375 00:18:18,720 --> 00:18:22,880 wirklich diese 1000000 Tokens vollmüllen kann, sondern da 376 00:18:22,880 --> 00:18:26,720 findet eine clevere Auswahl auch der entsprechenden Informationen 377 00:18:26,720 --> 00:18:30,320 statt und es wird nicht einfach, nur weil es geht das komplette 378 00:18:30,320 --> 00:18:32,520 Token window voll gemacht, sondern da gibt es natürlich 379 00:18:32,520 --> 00:18:36,320 auch extrem viel Erfahrung auf der Seite dieser Tool Hersteller 380 00:18:36,320 --> 00:18:39,040 und. Wieviel Kontext wirklich 381 00:18:39,040 --> 00:18:42,920 sinnvoll ist, um ein Problem zu lösen, aber das entbindet uns 382 00:18:42,920 --> 00:18:46,680 natürlich nicht davon, die Auswahl zu treffen oder diese 383 00:18:46,680 --> 00:18:50,520 Auswahl mit zu beeinflussen, selbst wenn das Tool einiges im 384 00:18:50,520 --> 00:18:53,200 Hintergrund macht, wie zum Beispiel dieses Token Window zu 385 00:18:53,200 --> 00:18:55,680 beschränken, müssen wir natürlich da auch selber. 386 00:18:56,000 --> 00:18:58,960 Bisschen Energie reinstecken und sagen Okay welche Informationen 387 00:18:58,960 --> 00:19:02,000 gebe ich jetzt rein und mich da auch nicht vollständig darauf zu 388 00:19:02,000 --> 00:19:05,600 verlassen, dass irgendwelche cleveren Suchalgorithmen dann 389 00:19:05,600 --> 00:19:07,840 zum Beispiel in unserem Agenten immer die entsprechenden 390 00:19:07,840 --> 00:19:11,040 richtigen Informationen finden. Und was immer hilft, wenn ich 391 00:19:11,040 --> 00:19:13,160 weiß, was die richtige Information ist, dann gebe ich 392 00:19:13,160 --> 00:19:14,720 das einfach mit rein. Also auch wenn der Agent 393 00:19:14,720 --> 00:19:16,960 vielleicht selber in der Lage ist, die richtigen Dateien. 394 00:19:17,200 --> 00:19:20,120 Zu suchen oder vielleicht zumindest versucht es sie zu 395 00:19:20,120 --> 00:19:23,000 suchen und rauszufinden. Wenn ich weiß, du musst dir die 396 00:19:23,000 --> 00:19:26,000 5 Dateien anschauen, auf jeden Fall um die Aufgabe erfolgreich 397 00:19:26,000 --> 00:19:28,080 zu lösen, dann schmeiße ich die schon mal mit rein. 398 00:19:28,080 --> 00:19:30,720 Ich kann in all diesen Tools einfach per Drag and Drop Code 399 00:19:30,720 --> 00:19:33,960 Dateien mit in dieses Chat Fenster einfach reinziehen und 400 00:19:33,960 --> 00:19:36,040 schon mal sagen Ey pass auf, ich gebe dir jetzt eine Aufgabe, 401 00:19:36,040 --> 00:19:39,840 gerade wenn du so agentenbasiert vorgehst und diese Tools oder 402 00:19:39,840 --> 00:19:42,600 diese Ordner werden auf jeden Fall relevant sein, also sich 403 00:19:42,600 --> 00:19:45,280 gar nicht darauf verlassen, dass ich irgendwas rausfinde, sondern 404 00:19:45,280 --> 00:19:47,520 wenn ich etwas weiß. Dann mitgeben. 405 00:19:47,520 --> 00:19:50,080 Wir hatten das im Vibe Coding auch schon mal so ein bisschen 406 00:19:50,080 --> 00:19:53,680 gesagt, Ich komme wieder auf diesen Kontext 7 MCP Server 407 00:19:53,680 --> 00:19:56,640 zurück, wo das LM selber rausfinden kann, was ist denn 408 00:19:56,640 --> 00:20:01,360 die richtige Library ID in dieser Datenbank an an aktuellem 409 00:20:01,720 --> 00:20:04,680 an aktueller Dokumentation und wenn ich die richtige ID für 410 00:20:04,680 --> 00:20:07,760 meinen React Version XY Framework herausgefunden habe, 411 00:20:07,760 --> 00:20:09,680 dann gehe ich zu diesem Kontext 7 Server hin. 412 00:20:10,000 --> 00:20:12,480 Wenn ich aber weiß, was die richtige ID ist für die Version 413 00:20:12,480 --> 00:20:14,880 von diesem, von dieser Vibry, die ich verwende, dann sag ich 414 00:20:14,880 --> 00:20:17,600 dem dem Model das direkt, dann schreibe ich das mit rein, wie 415 00:20:17,600 --> 00:20:20,480 schon direkt in dem prompt, dass ich ihm quasi immer, je mehr 416 00:20:20,480 --> 00:20:22,680 Arbeit ich ihm abnehmen kann durch Informationen, die ich 417 00:20:22,680 --> 00:20:24,960 schon kenne. Desto besser wird auch das 418 00:20:24,960 --> 00:20:27,000 Ergebnis werden. Dadurch kuratiere ich den 419 00:20:27,000 --> 00:20:29,840 Kontext dann noch mal selber. Ja, die meisten agentenbasierten 420 00:20:29,840 --> 00:20:32,880 Workflows können sich selber diesen Kontext kuratieren, indem 421 00:20:32,880 --> 00:20:35,640 sie erst mal auf die Suche gehen nach den relevanten Dateien in 422 00:20:35,640 --> 00:20:39,040 meinem in meinem Coding Projekt und erst dann das Large Language 423 00:20:39,040 --> 00:20:41,760 Modell an der Code Generierung arbeiten lassen. 424 00:20:41,760 --> 00:20:44,840 Aber wenn ich schon vorher Informationen weiß, dann gebe 425 00:20:44,840 --> 00:20:48,960 ich die mit rein, denn je mehr ich selber quasi eigenständig 426 00:20:48,960 --> 00:20:51,000 diesen Kontext dann kuratieren kann, desto besser wird auch das 427 00:20:51,000 --> 00:20:54,800 Ergebnis werden. Und genauso macht es, obwohl ich 428 00:20:54,800 --> 00:21:00,160 theoretisch dem Tool meinen kompletten Code geben kann, 429 00:21:00,240 --> 00:21:02,680 immer noch Sinn. Die Struktur meines Codes zu 430 00:21:02,680 --> 00:21:04,560 erklären. Einfach eine marktdown Datei, 431 00:21:04,560 --> 00:21:07,360 die beschreibt, wie ist mein Projekt aufgebaut, wo befinden 432 00:21:07,360 --> 00:21:10,600 sich welche Informationen, auch das hatten wir in der vorletzten 433 00:21:10,600 --> 00:21:15,680 Folge im Detail besprochen, aber auch das ist ein Teil dieses 434 00:21:15,680 --> 00:21:18,800 Kontext engineerings. Genau und genauso wie die Stufe 435 00:21:18,800 --> 00:21:21,120 von meinem Projekt ist natürlich Struktur von der Aufgabe. 436 00:21:21,440 --> 00:21:23,600 Sinnvoll also all das, was ich auch sonst vielleicht in ein 437 00:21:23,600 --> 00:21:26,000 gutes Jira Ticket mit reinschreiben würde. 438 00:21:26,000 --> 00:21:28,360 In gute issue Beschreibung mit reinschreiben würde also sowas 439 00:21:28,360 --> 00:21:33,680 wie eine Definition of done, wann bist du fertig, wann kannst 440 00:21:33,680 --> 00:21:36,320 du aufhören irgendwie Code zu generieren aber auch 441 00:21:36,320 --> 00:21:39,360 Hintergrundinformationen sind nützlich, also was ist der 442 00:21:39,360 --> 00:21:42,880 Business Value oder der User Impact von diesem Feature oder 443 00:21:42,880 --> 00:21:47,040 diesem diesem Code change, warum machen wir das hier eigentlich? 444 00:21:47,360 --> 00:21:49,520 Wie kannst du dein Ziel erreichen? 445 00:21:49,520 --> 00:21:51,360 Also vielleicht auch eine kurortierte Liste an den 446 00:21:51,360 --> 00:21:54,640 richtigen Tools oder schon mal so ein Implementation blueprint 447 00:21:54,640 --> 00:21:56,400 oder schon mal ein bisschen pseudocode, den ich vielleicht 448 00:21:56,400 --> 00:21:59,000 irgendwo geschrieben habe? Also alles was ich schon weiß 449 00:21:59,000 --> 00:22:01,920 was dem Modell hilft in die richtige Richtung zu laufen, das 450 00:22:01,920 --> 00:22:04,240 gehört da mit rein, wenn ich beschreibe was ist eigentlich 451 00:22:04,240 --> 00:22:08,720 die Aufgabe die zu lösen ist und wann weißt du, dass die Aufgabe 452 00:22:08,720 --> 00:22:11,240 korrekt gelöst ist? Und warum löst du überhaupt 453 00:22:11,240 --> 00:22:14,400 diese Aufgabe? Und dazu kommen natürlich noch 454 00:22:14,800 --> 00:22:18,720 Hilfe bei der Implementierung, irgendwie Dokumentationen, 455 00:22:18,720 --> 00:22:22,880 Beispiele, vielleicht bekannte Fallstricke, also alles, was wir 456 00:22:22,880 --> 00:22:25,320 vielleicht wissen, was in der Vergangenheit nicht funktioniert 457 00:22:25,320 --> 00:22:26,800 hat. Um dieses Problem zu lösen. 458 00:22:26,960 --> 00:22:29,680 All das kann am Ende dabei helfen, das Problem. 459 00:22:30,320 --> 00:22:34,480 Am Ende richtig zu lösen und jetzt mag man sich fragen okay 460 00:22:34,640 --> 00:22:39,000 jetzt sitze ich dort und muss das jedes Mal zusammenstellen in 461 00:22:39,000 --> 00:22:41,720 mein prompt window reinschreiben und das ist genau der 462 00:22:41,720 --> 00:22:45,280 Unterschied den wir am Anfang meinten, der zum klassischen 463 00:22:45,280 --> 00:22:48,480 prompt Engineering besteht. Solche Dinge, die mache ich 464 00:22:48,480 --> 00:22:51,880 nicht jedes Mal wenn ich mit meinem Coding Agenten rede oder 465 00:22:51,880 --> 00:22:55,400 wenn ich im Chat unterwegs bin, sondern ich bereite das und. 466 00:22:55,680 --> 00:23:00,000 Hoffentlich so vor, dass es wieder verwendbar ist und kann 467 00:23:00,000 --> 00:23:03,440 dann immer wieder auf diese ganzen Informationen zugreifen. 468 00:23:04,080 --> 00:23:05,600 Ja, dann lass uns doch jetzt mal anschauen. 469 00:23:05,600 --> 00:23:08,720 Also wie baue ich denn jetzt mit Fokus auf Software Development, 470 00:23:08,960 --> 00:23:11,040 wie baue ich denn jetzt so einen guten Kontext und wie kann ich 471 00:23:11,040 --> 00:23:14,000 das vielleicht, wie du gerade gesagt hast, automatisieren 472 00:23:14,400 --> 00:23:17,520 vorher erstmal, bevor man selber diesen Kontext kuratiert, also 473 00:23:17,520 --> 00:23:20,080 die richtigen Dateien reinzieht, die richtigen Instruction 474 00:23:20,080 --> 00:23:22,560 schreibt. Also es ist immer noch wichtig, 475 00:23:22,800 --> 00:23:25,520 das Ziel gut zu beschreiben, also das, was man, glaube ich, 476 00:23:25,520 --> 00:23:27,720 was wir eingangs mal irgendwie als User prompt bezeichnet 477 00:23:27,720 --> 00:23:30,360 haben, das ist immer noch, wo wahrscheinlich auch ein Großteil 478 00:23:30,360 --> 00:23:33,840 der Zeit mit reingeht, ganz klar zu sagen, was will ich 479 00:23:33,840 --> 00:23:37,520 eigentlich, was ist deine Aufgabe, aber wenn ich das gut 480 00:23:37,520 --> 00:23:39,600 gemacht habe, und das haben wir gerade ein bisschen gemerkt, es 481 00:23:39,600 --> 00:23:43,080 ist fast noch wichtiger, jetzt hinzugehen und zu sagen, was 482 00:23:43,080 --> 00:23:45,480 sind relevante Informationen, die es dazu gibt, was malte 483 00:23:45,480 --> 00:23:49,360 gerade schon gesagt hat, ist wenn ich eben sowas wie eine 484 00:23:49,360 --> 00:23:52,320 Struktur von meinem Projekt Anweisungen, wie baue ich das 485 00:23:52,320 --> 00:23:55,640 Projekt, wie teste ich das das Projekt, wo finde ich eigentlich 486 00:23:55,640 --> 00:23:58,160 was, welche Libraries wir verwenden, wenn ich das eh schon 487 00:23:58,160 --> 00:24:01,880 habe, dann kann man in seinem Repository in den allermeisten 488 00:24:01,880 --> 00:24:04,960 Fällen in den allermeisten KI Tools, die man verwendet so 489 00:24:05,360 --> 00:24:09,200 Custom Instruction Files mit ablegen, das ist wenn ich Cloud 490 00:24:09,200 --> 00:24:11,760 Code verwende ist das so eine Cloud Punkt Mark Down das ist 491 00:24:11,760 --> 00:24:14,000 bei github Copy liegt das im Punkt github Ordner das sind das 492 00:24:14,000 --> 00:24:16,840 Custom Instructions. Cursor nennt das Rules, Files 493 00:24:16,840 --> 00:24:20,360 und so weiter und sofort und da kann ich eben Dinge ablegen, die 494 00:24:20,360 --> 00:24:24,120 dann im Hintergrund von diesen Tools automatisch jedes Mal mit 495 00:24:24,120 --> 00:24:26,520 in den Kontext geschrieben werden und das sind in der Regel 496 00:24:26,520 --> 00:24:30,560 halt irgendwie markdown formatierte Dateien, die mir 497 00:24:30,640 --> 00:24:34,880 generelle Informationen, allgemeine Informationen über 498 00:24:34,880 --> 00:24:37,600 das vorliegende Projekt, also völlig unabhängig davon, was 499 00:24:37,600 --> 00:24:39,840 jetzt gerade die Aufgabe ist, an der gearbeitet wird, die. 500 00:24:40,160 --> 00:24:43,200 Diese Informationen kannst du immer gebrauchen. 501 00:24:43,200 --> 00:24:45,840 Das sind einfach Dinge, die ich auch in mein Projekt mit 502 00:24:45,840 --> 00:24:48,120 einchecken kann, die auch ein lebendiges Projekt sind. 503 00:24:48,120 --> 00:24:50,280 Wenn irgendjemand eine Version updatet, dann wird auch kurz in 504 00:24:50,280 --> 00:24:53,760 diese Datei reingegangen und das versions Update da da vermerkt, 505 00:24:53,920 --> 00:24:58,160 wenn ich merke, dass mein Chatbot oder mein KI Agent immer 506 00:24:58,160 --> 00:25:00,520 irgendwie einen häufigen Fehler macht, dann wird das damit 507 00:25:00,520 --> 00:25:03,160 reingeschrieben um zu vermeiden, dass der nächste das nicht 508 00:25:03,160 --> 00:25:05,160 macht. Das ist ein lebendiges Dokument, 509 00:25:05,160 --> 00:25:08,720 das im Team bearbeitet wird. Was mir dann aber helfen kann, 510 00:25:08,880 --> 00:25:13,560 eben jedes Mal projektrelevante Informationen von Tool, also von 511 00:25:13,560 --> 00:25:17,920 Guitar, copil, Cursor und so weiter automatisch in diesen 512 00:25:17,920 --> 00:25:20,240 Kontext mit reinpacken zu lassen, dass ich das nicht jedes 513 00:25:20,240 --> 00:25:22,840 Mal irgendwo copy pasten muss oder mit reinpacken muss, 514 00:25:22,840 --> 00:25:25,840 sondern dass die Dinger eben automatisch hinzugefügt werden. 515 00:25:26,600 --> 00:25:29,280 Und dann hattest du ja gerade noch gesagt, ich kann häufig in 516 00:25:29,280 --> 00:25:33,200 diesen Tools auch die Chat Historie kuratieren. 517 00:25:33,200 --> 00:25:35,200 Ich kann bestimmte Dinge rausnehmen, die nicht so 518 00:25:35,200 --> 00:25:39,840 relevant waren, um es wirklich präzise zu beschreiben und was 519 00:25:39,840 --> 00:25:42,760 dann natürlich noch. Ganz wichtig dazu kommt, ist 520 00:25:42,760 --> 00:25:46,320 meine Spezifikation. Im Idealfall habe ich die schon 521 00:25:46,400 --> 00:25:50,000 seit vielen Jahren total präzise gemacht, mit irgendwie 522 00:25:50,000 --> 00:25:53,680 Definition of done Success Cry Terrier, also im Rahmen meiner 523 00:25:53,680 --> 00:25:57,720 klassischen Softwareentwicklung für menschliche Developer alles 524 00:25:57,720 --> 00:26:00,560 so präzise wie möglich beschrieben, aber spätestens 525 00:26:00,560 --> 00:26:04,040 jetzt wird es wichtig, im Rahmen dieses Kontext engineerings 526 00:26:04,040 --> 00:26:08,080 diese Informationen dann auch präzise vorzulegen und die 527 00:26:08,080 --> 00:26:10,720 liegen dann vielleicht nicht in meiner. 528 00:26:11,040 --> 00:26:12,640 Im Repository, sondern die liegen dann. 529 00:26:12,640 --> 00:26:14,960 Du hast es vorhin gesagt, zum Beispiel in einem JIRA Ticket 530 00:26:14,960 --> 00:26:18,720 oder einem Gitarre issue und dort liegt dann wiederum ein 531 00:26:18,720 --> 00:26:21,520 anderer Teil des Kontexts, der genau beschreibt, wo wir 532 00:26:21,520 --> 00:26:25,080 hinwollen und diese Sachen, die brauchen wir natürlich nicht 533 00:26:25,080 --> 00:26:28,120 komplett selber schreiben. Im Idealfall haben wir das 534 00:26:28,120 --> 00:26:30,480 ohnehin im Team auch so ein bisschen aufgeteilt, wir haben 535 00:26:30,480 --> 00:26:33,520 irgendwie den Teil den die Software Engineers machen, einen 536 00:26:33,520 --> 00:26:37,120 anderen Teil, den vielleicht eher Produktmanager machen, aber 537 00:26:37,120 --> 00:26:41,520 natürlich auch bei diesen. Teil, der das Ziel beschreibt. 538 00:26:41,680 --> 00:26:46,280 Da kann ich natürlich wiederum auch auf die Hilfe von KI Tools 539 00:26:46,280 --> 00:26:50,080 zurückgreifen, um das möglichst präzise zu machen und um 540 00:26:50,080 --> 00:26:53,200 natürlich auch die manuelle Arbeit zu reduzieren. 541 00:26:53,360 --> 00:26:55,680 Das in dieser Art und Weise zu beschreiben, wie wir es vorhin 542 00:26:55,680 --> 00:26:59,120 am Beispiel von Opi hatten, wie die. 543 00:26:59,400 --> 00:27:03,840 Quasi uns gesagt haben, wie man einen möglichst guten prompt für 544 00:27:03,840 --> 00:27:09,360 die o 1 o 3 Modelle schreibt. Das kann man natürlich auch über 545 00:27:09,360 --> 00:27:12,800 ein KI Tool sich entsprechend in diese Struktur bringen lassen 546 00:27:12,800 --> 00:27:17,600 und das dann wiederum in so ein Spezifikationsdokument 547 00:27:17,680 --> 00:27:19,960 übertragen. Genau, was Malta da gerade so 548 00:27:19,960 --> 00:27:22,720 ein bisschen meint, ist KI zu benutzen, um Prompts für KI oder 549 00:27:22,720 --> 00:27:24,280 bessere Prompts für ki zu schreiben. 550 00:27:24,280 --> 00:27:26,280 Das ist ganz spannend, das kennen wir schon so ein bisschen 551 00:27:26,280 --> 00:27:29,000 aus der Bildgenerierung. Also es ist ganz oft, wenn ich 552 00:27:29,000 --> 00:27:31,200 irgendwie mir ein Bild generieren möchte, wo ich sage, 553 00:27:31,200 --> 00:27:34,400 Hey, ein Foto von mir, wo ich vielleicht mit einem Hemd, 554 00:27:34,400 --> 00:27:37,960 Krawatte und einem Anzug vor einem Bürogebäude stehe, weil 555 00:27:37,960 --> 00:27:40,480 ich das vielleicht für meine Bewerbungsmappe brauche, dann 556 00:27:40,480 --> 00:27:43,240 kann ich ganz oft diese Anforderung an Chatibity geben 557 00:27:43,240 --> 00:27:44,400 und sagen, schreibt mir mal einen guten 558 00:27:44,400 --> 00:27:47,680 Bildgenerierungsprompt dafür und das Ding geht dann los und 559 00:27:47,680 --> 00:27:51,120 beschreibt mir 16 zu 9 folgende kameraaufnahme unscharfer 560 00:27:51,120 --> 00:27:54,560 Hintergrund. In professionellem 561 00:27:54,560 --> 00:27:57,840 Fotografiestyle bei der und der Tageszeit und so weiter also 562 00:27:57,920 --> 00:28:00,680 bläht den prompt so ein bisschen auf mit relevanten Informationen 563 00:28:00,680 --> 00:28:01,920 und die ich gar nicht gekommen wäre. 564 00:28:02,000 --> 00:28:04,320 Ja, da sind dann auch so Informationen drin, die ich 565 00:28:04,320 --> 00:28:06,400 vielleicht gar nicht geben könnte. 566 00:28:06,400 --> 00:28:09,840 Zum Beispiel irgendwie eine Blende Brennweite, wenn es so um 567 00:28:09,840 --> 00:28:12,800 Fotos geht. Und genau das kann ich natürlich 568 00:28:12,800 --> 00:28:17,360 dann auch übertragen und auch zum Beschreiben von solchen 569 00:28:17,360 --> 00:28:20,080 Software Spezifikationen in der KI gestützten 570 00:28:20,080 --> 00:28:21,880 Softwareentwicklung nutzen. Genau. 571 00:28:21,880 --> 00:28:24,000 Da wer sich das tiefer mal angucken möchte, da gibt es 572 00:28:24,000 --> 00:28:28,160 gerade so ein Vorschuss, das heißt PR, PS, das steht für 573 00:28:28,720 --> 00:28:32,320 Product Requirement Prompts, und das ist so ein bisschen 574 00:28:32,320 --> 00:28:35,240 angelehnt an PR. Dies also Product Requirements 575 00:28:35,240 --> 00:28:37,520 Definitions, die kennt man vielleicht schon. 576 00:28:38,320 --> 00:28:40,720 Die beschreiben eigentlich so ein bisschen, was ein Produkt 577 00:28:40,720 --> 00:28:44,240 machen muss oder auch ein einzelnes Feature und warum ein 578 00:28:44,240 --> 00:28:49,280 Kunde das brauchen könnte. Die sind aber ganz klar so, dass 579 00:28:49,280 --> 00:28:52,320 sie versuchen zu vermeiden, zu beschreiben, wie jetzt ein 580 00:28:52,480 --> 00:28:56,080 bestimmtes Feature gebaut werden soll und diese Product 581 00:28:56,080 --> 00:28:59,640 Requirement Prompts die. Die nehmen jetzt quasi so ein 582 00:28:59,640 --> 00:29:04,000 klassisches PRD und quasi schießen einen KI Agenten mit 583 00:29:04,000 --> 00:29:07,720 diesem PRD auf eure Codebasis los und versuchen dann so ein 584 00:29:07,720 --> 00:29:09,840 bisschen so eine, ja die nennen das ein bisschen codebase 585 00:29:09,840 --> 00:29:11,200 Intelligence da mit rein zu nehmen. 586 00:29:11,200 --> 00:29:13,440 Das heißt sie schauen sich an okay das ist das Feature weil 587 00:29:13,440 --> 00:29:16,200 was beschrieben wird aufgrund von dieser codebasis glaube ich 588 00:29:16,200 --> 00:29:19,200 jetzt selber herauszufinden, was vielleicht relevante Dinge sind, 589 00:29:19,200 --> 00:29:21,120 also relevante Dateien sind, die wir in den Kontext mit 590 00:29:21,120 --> 00:29:24,360 reinziehen, vielleicht aber auch so ein so ein Runbook, also so 591 00:29:24,360 --> 00:29:26,720 eine to do Liste. Die irgendwie abgearbeitet 592 00:29:26,720 --> 00:29:28,000 werden muss. Das heißt, da versucht die KI 593 00:29:28,000 --> 00:29:31,160 erstmal zu erkennen okay haben wir Tests in diesem Projekt Unit 594 00:29:31,160 --> 00:29:33,600 Tests vielleicht aber auch irgendwie end to end ui Tests? 595 00:29:33,760 --> 00:29:36,200 Wenn ja muss ich auf jeden Fall schon mal einen Eintrag Unit 596 00:29:36,200 --> 00:29:38,960 test und einen Eintrag end to end ui Test schreiben mit in 597 00:29:38,960 --> 00:29:42,480 diese Taskliste aufnehmen mit was für Technologien arbeiten 598 00:29:42,480 --> 00:29:44,160 wir hier? Ah okay guck mal du hast alles 599 00:29:44,160 --> 00:29:46,960 irgendwie scheinbar in Komponenten gekapselt also. 600 00:29:47,760 --> 00:29:50,640 Zumindest in der vielleicht Komponenten, also schreibe wem 601 00:29:50,640 --> 00:29:52,800 schon mal in die to do Liste wahrscheinlich neue Komponente 602 00:29:52,800 --> 00:29:55,520 dafür bauen oder bestehende Komponente bearbeiten müssen und 603 00:29:55,520 --> 00:29:59,040 so weiter das heißt da geht ein KI Agent mit diesem mit dieser 604 00:29:59,040 --> 00:30:03,920 Product Definition los über eure Codebase und schreibt daraus 605 00:30:03,920 --> 00:30:07,040 einen noch detaillierteren prompt und erst wenn das fertig 606 00:30:07,040 --> 00:30:10,080 ist das. Dann wird das quasi als prompt 607 00:30:10,320 --> 00:30:14,080 für den finalen Coding Agenten mit Reingegeben und wie weit er 608 00:30:14,160 --> 00:30:16,280 gerade schon gesagt hat, das schreiben wir in der Regel nicht 609 00:30:16,280 --> 00:30:18,000 mehr selber. Da gibt es jetzt quasi KI 610 00:30:18,000 --> 00:30:21,240 geschützte Tools für die diesen promptheim halt irgendwie 611 00:30:21,240 --> 00:30:22,880 schreiben. Also ki schreibt Prompts für 612 00:30:22,880 --> 00:30:25,880 eine andere KI, das ist so ein bisschen Inception mäßig, wer 613 00:30:25,880 --> 00:30:28,440 sich das mal angucken möchte, Product requirement Prompts 614 00:30:28,440 --> 00:30:30,920 heißt das haben wir auch einen Link in der Beschreibung von der 615 00:30:30,920 --> 00:30:36,080 Folge mit reingepackt. Das sind ja jetzt in Summe diese 616 00:30:36,080 --> 00:30:40,040 ganzen Informationen, die relativ statisch reingehen. 617 00:30:40,040 --> 00:30:42,640 Aber natürlich werden auch Informationen dynamisch 618 00:30:42,800 --> 00:30:44,960 abgerufen. Das heißt, wenn jetzt mal ein 619 00:30:44,960 --> 00:30:49,280 entsprechendes Llm bestimmte Informationen aus meinem Projekt 620 00:30:49,280 --> 00:30:52,440 braucht, findet eine Suche über das Projekt statt, es kann eine 621 00:30:52,440 --> 00:30:55,960 Internetsuche stattfinden, es können Tools zum Beispiel über 622 00:30:55,960 --> 00:30:59,680 MCP Server, Wir hatten letztes Mal ja auch über diese context 7 623 00:30:59,680 --> 00:31:02,160 gesprochen. Findet dann eine entsprechende 624 00:31:02,160 --> 00:31:05,440 Suche hier statt und hier können dann halt über verschiedene 625 00:31:05,760 --> 00:31:09,520 Tools hinweg dynamisch Informationen ergänzt werden. 626 00:31:09,680 --> 00:31:13,840 Aber natürlich dieses rein dynamisch automatisierte ersetzt 627 00:31:13,840 --> 00:31:16,760 jetzt nicht das statische, was wir vorhin beschrieben haben, 628 00:31:16,760 --> 00:31:19,840 sondern es ergänzt es um zusätzliche Informationen, die 629 00:31:19,840 --> 00:31:24,640 für die Lösung des Problems relevant sind und auch da können 630 00:31:24,640 --> 00:31:27,680 wir natürlich das Ganze. Ki Tool in die entsprechende 631 00:31:27,680 --> 00:31:30,560 Richtung dirigieren. Wir hatten vorhin gesagt, man 632 00:31:30,560 --> 00:31:33,040 kann zum Beispiel auch hinterlegen, welche Werkzeuge 633 00:31:33,040 --> 00:31:35,600 eingesetzt werden sollen oder welche zusätzlichen 634 00:31:35,600 --> 00:31:39,600 Informationen abgerufen werden sollen und am Ende fließt das 635 00:31:39,600 --> 00:31:43,000 dann mit in den Kontext und bietet damit entsprechende eine 636 00:31:43,600 --> 00:31:46,480 entsprechende Information zur Lösung des Problems. 637 00:31:46,640 --> 00:31:49,360 Ja, vor allem auch an der richtigen Stelle, weil alles, 638 00:31:49,360 --> 00:31:51,760 was wir gerade besprochen haben, ist ja eher so so, das sind die 639 00:31:51,760 --> 00:31:54,320 ganzen Infos und jetzt lieber Agent Lauf mal los. 640 00:31:54,920 --> 00:31:57,280 Aber wir haben ja eben schon gemerkt, dass es meistens in 641 00:31:57,280 --> 00:32:02,000 ganz, ganz vielen Schritten in so einer sogenannten Agent Loop 642 00:32:02,240 --> 00:32:04,240 eigentlich abarbeitet wird. Oft geht der Agent als erster 643 00:32:04,240 --> 00:32:05,920 Schritt, bevor überhaupt irgendeine Zeile Code schreibt, 644 00:32:05,920 --> 00:32:08,320 hin und schaut sich das Projekt an und so weiter und sofort, 645 00:32:08,400 --> 00:32:11,200 aber wir geben quasi einmal nur so Info mit und manchmal, wenn 646 00:32:11,360 --> 00:32:13,840 wir so einen Human in The Loop Prozess haben, dann fragt er 647 00:32:13,840 --> 00:32:16,640 auch noch mal nach, aber was jetzt diese dynamischen Tools 648 00:32:16,640 --> 00:32:18,640 natürlich können, ist zum richtigen Schritt. 649 00:32:19,120 --> 00:32:21,800 Oder an der richtigen Stelle noch weitere Informationen in 650 00:32:21,800 --> 00:32:24,080 den Kontext mit Reinzugeben, ohne dass wir als User da 651 00:32:24,080 --> 00:32:26,560 interagieren müssen. Und das geht zum Beispiel über 652 00:32:26,560 --> 00:32:29,160 sowas wie Rack Retrievel Augmented Generation ist eine 653 00:32:29,160 --> 00:32:32,840 Technologie, wo quasi haben wir auch schon mal eine eigene Folge 654 00:32:32,840 --> 00:32:35,280 zu gemacht, wer das mal im Detail nachhören möchte, aber es 655 00:32:35,280 --> 00:32:38,320 ist eine Technologie wo ich quasi eine Wissensdatenbank 656 00:32:38,320 --> 00:32:41,160 durchsuchen kann, aber keinen genauen Texttreffer haben muss, 657 00:32:41,160 --> 00:32:43,120 sondern auch irgendwas was semantisch zusammengehört mir 658 00:32:43,120 --> 00:32:45,600 irgendwie rausziehen kann und das geht natürlich auch auf 659 00:32:45,600 --> 00:32:47,760 einer Codebase, dass ich sagen kann okay für diesen Schritt 660 00:32:47,760 --> 00:32:48,760 geht. Jetzt würde ich gerne mal 661 00:32:48,760 --> 00:32:51,680 wissen, zeig mir alle coding Dateien wo es um dieses oder 662 00:32:51,680 --> 00:32:54,760 jedes Thema geht an oder dass ich eben über MCP Server 663 00:32:54,760 --> 00:32:57,840 arbeite, die nicht nur wie context 7 mir die Dokumentation 664 00:32:57,840 --> 00:33:00,840 reinholen können, sondern die vielleicht auch wirklich mit der 665 00:33:00,840 --> 00:33:03,600 Auswelt interagieren, indem sie eine API aufrufen, indem sie 666 00:33:03,600 --> 00:33:06,000 vielleicht ein Weiteres eine E shue Beschreibung sich von 667 00:33:06,000 --> 00:33:08,720 github runterladen, indem sie einen Pull request stellen, 668 00:33:08,720 --> 00:33:10,040 indem sie vielleicht auch irgendwie einen Menschen 669 00:33:10,040 --> 00:33:11,520 anpingen. Da sind ja der Fantasie ja keine 670 00:33:11,520 --> 00:33:13,920 Grenzen gesetzt und da ist irgendwie spannend, dass wir 671 00:33:13,920 --> 00:33:15,920 dann eben diesen Agenten die Möglichkeit geben. 672 00:33:16,720 --> 00:33:20,240 Selber zu entscheiden, dynamisch weiteren Kontext nachzuladen, 673 00:33:20,320 --> 00:33:22,360 der vielleicht auch nur für diesen einen Schritt interessant 674 00:33:22,360 --> 00:33:24,680 ist und der vielleicht auch danach wieder aus dem Kontext 675 00:33:24,680 --> 00:33:27,240 rausgeschmissen wird, sobald dieser dieser Schritt bearbeitet 676 00:33:27,240 --> 00:33:28,560 wird. Man kennt das so ein bisschen 677 00:33:28,960 --> 00:33:31,840 von diesen Deep Research Modellen, die im Prinzip auch 678 00:33:31,840 --> 00:33:34,160 nichts anderes als ein Agenten Framework um ein KI Modell 679 00:33:34,160 --> 00:33:37,600 drumherum sind, die gehen dann hin und lesen ganz ganz viele 680 00:33:37,600 --> 00:33:41,480 online Quellen und packen dann aber nach dem Lesen nicht die 681 00:33:41,480 --> 00:33:44,000 gesamte online Quelle in den Kontext, dann vielleicht nur 682 00:33:44,000 --> 00:33:46,080 eine. Eine Zusammenfassung davon oder 683 00:33:46,080 --> 00:33:48,000 die wichtigsten Punkte oder die Sachen, die jetzt verwendet 684 00:33:48,000 --> 00:33:49,920 wurden und so weiter und schmeißen quasi dann nach dem 685 00:33:49,920 --> 00:33:51,760 Lesen diese Quelle auch wieder raus. 686 00:33:51,760 --> 00:33:54,960 Und genauso ist im Coding dann halt auch vielleicht wichtig. 687 00:33:54,960 --> 00:33:57,920 Brauche ich vielleicht diesen einen Schritt einmal um das 688 00:33:57,920 --> 00:34:00,560 Testing Framework rauszuholen, gucke ich mir einmal deine 689 00:34:00,560 --> 00:34:02,400 package Punkt json an um zu wissen, was hast du denn für 690 00:34:02,400 --> 00:34:04,440 Pakete installiert, danach brauche ich die aber vielleicht 691 00:34:04,440 --> 00:34:07,680 nicht mehr im unbedingt Kontext und sich das dynamisch 692 00:34:07,680 --> 00:34:11,360 reinzuholen über so Memory Funktionen die KI s haben über 693 00:34:11,400 --> 00:34:13,880 RAG. Über MCP Server haben jetzt vor 694 00:34:13,880 --> 00:34:15,520 allem auch schon mal eigene Folgen gemacht. 695 00:34:15,840 --> 00:34:18,639 Das kann eben dann wichtig sein, im richtigen Schritt den 696 00:34:18,639 --> 00:34:21,400 richtigen Kontext noch mal nachzuladen, passiert dann aber 697 00:34:21,400 --> 00:34:23,480 wie gesagt, wenn man selber Agenten baut, muss man das 698 00:34:23,480 --> 00:34:25,800 selber bauen, wenn man jetzt einfach nur Agenten benutzt, wie 699 00:34:25,800 --> 00:34:29,320 zum Beispiel sowas wie wie ein Gitter co Piloten, dann machen 700 00:34:29,320 --> 00:34:31,199 diese Tools das in der Regel für mich automatisch. 701 00:34:32,600 --> 00:34:35,120 Und ich glaub, wir haben das jetzt versucht, so auf so einem 702 00:34:35,120 --> 00:34:38,480 relativ abstrakten Level zu beschreiben, weil das natürlich 703 00:34:38,480 --> 00:34:41,600 in jedem Werkzeug, dass ihr einsetzen bisschen 704 00:34:41,600 --> 00:34:43,440 unterschiedlich ist. Die machen es alle natürlich 705 00:34:43,440 --> 00:34:46,080 ähnlich, man lässt sich voneinander inspirieren. 706 00:34:46,480 --> 00:34:50,320 Und viele nehmen einem natürlich diese Coding Werkzeuge auch ab. 707 00:34:50,560 --> 00:34:53,360 Aber es ist ganz wichtig zu wissen, was bedeutet es 708 00:34:53,360 --> 00:34:56,120 grundsätzlich einen guten Kontext bereitzustellen, dann 709 00:34:56,120 --> 00:34:58,160 muss man sich natürlich ein bisschen mit der Dokumentation 710 00:34:58,160 --> 00:35:01,520 des eigenen Tools beschäftigen, wie sieht denn jetzt so ein 711 00:35:01,520 --> 00:35:05,120 Format aus, wo kann ich dort vielleicht so einen Kontext file 712 00:35:05,120 --> 00:35:09,600 oder entsprechend solche Custom Instructions hinterlegen, wie 713 00:35:09,600 --> 00:35:11,680 funktioniert das mit meinem Tool, wie kann ich dann am 714 00:35:11,680 --> 00:35:15,400 besten auch meinem. Agenten sagen, dass bestimmte 715 00:35:15,400 --> 00:35:18,160 Informationen dynamisch abgerufen werden können. 716 00:35:18,560 --> 00:35:22,200 Welches ist vielleicht auch die richtige Herangehensweise für 717 00:35:22,200 --> 00:35:24,760 ein bestimmtes Sprachmodell? Wir hatten ja vorhin darüber 718 00:35:24,760 --> 00:35:27,520 gesprochen, jedes Sprachmodell funktioniert ein bisschen anders 719 00:35:27,520 --> 00:35:30,600 und dann kann natürlich auch die Art und Weise, wie man diesen 720 00:35:30,600 --> 00:35:33,120 Kontext zusammenstellt oder wie man vielleicht so eine Custom 721 00:35:33,120 --> 00:35:36,160 Instruction formuliert, sich ein bisschen an. 722 00:35:36,360 --> 00:35:38,880 An dem Sprachmodell orientieren, was ich vielleicht in meinem 723 00:35:38,880 --> 00:35:42,840 Alltag am häufigsten einsetze. Was ich ganz spannend finde, 724 00:35:42,840 --> 00:35:45,160 ist, man kann natürlich auch sprachmodelle so ein bisschen in 725 00:35:45,160 --> 00:35:48,480 eine bestimmte Richtung bewegen, gerade wenn man so ein 726 00:35:48,480 --> 00:35:51,520 günstigeres Modell hat. Wir sehen das bei einigen Tools, 727 00:35:51,600 --> 00:35:55,120 wo dann vielleicht ein Basismodell nur zur Verfügung 728 00:35:55,120 --> 00:35:58,200 steht, welches ich unlimitiert nutzen kann und bestimmte gute 729 00:35:58,200 --> 00:36:03,400 Modelle wie irgendwie die. Die Cloudsonet 4 oder die Google 730 00:36:03,400 --> 00:36:05,520 Germany Modelle kosten dann on top. 731 00:36:05,680 --> 00:36:09,200 Da möchte ich vielleicht dieses Basismodell noch mit umso 732 00:36:09,200 --> 00:36:12,560 besseren Informationen versorgen um halt die Qualität so ein 733 00:36:12,560 --> 00:36:16,480 bisschen näher an diese. Teurere Modelle ranzubringen 734 00:36:16,640 --> 00:36:18,320 also. Wie gesagt, das ist je nach 735 00:36:18,320 --> 00:36:20,640 Werkzeug was ich einsetze ein bisschen unterschiedlich, 736 00:36:20,640 --> 00:36:22,640 deswegen haben wir es da natürlich in dieser Folge so ein 737 00:36:22,640 --> 00:36:26,760 bisschen abstrakt halten müssen. Wir packen euch noch mal ein 738 00:36:26,760 --> 00:36:30,400 paar Links in die Show Notes, die das ganze Thema des Kontext 739 00:36:30,400 --> 00:36:32,960 engineerings oder generell dieses. 740 00:36:33,360 --> 00:36:35,560 Wie kann ich die richtigen Informationen an das 741 00:36:35,560 --> 00:36:37,760 Sprachmodell in der Softwareentwicklung auch 742 00:36:37,760 --> 00:36:40,160 zusammenstellen? Noch mal beschreiben, wenn ihr 743 00:36:40,160 --> 00:36:43,280 ein bisschen tiefer in das Thema einsteigen möchtet und dann ist 744 00:36:43,280 --> 00:36:45,440 natürlich der nächste Schritt für euch zu schauen, wie 745 00:36:45,440 --> 00:36:48,640 funktioniert das in dem Tool eurer Wahl, da können wir euch 746 00:36:48,640 --> 00:36:51,720 keine genauen Hinweise geben, sonst müssten wir eine Folge für 747 00:36:51,720 --> 00:36:54,040 jedes Tool machen und ich glaube das ist an dieser Stelle nicht 748 00:36:54,040 --> 00:36:56,400 so zielführend. Uns war auf jeden Fall wichtig, 749 00:36:56,400 --> 00:36:59,920 die. Wichtigkeit die Relevanz von 750 00:36:59,920 --> 00:37:02,960 diesem Kontext Engineering euch nahezulegen, also sozusagen, 751 00:37:03,200 --> 00:37:05,600 wenn die KI nicht die Ergebnisse liefert. 752 00:37:05,600 --> 00:37:08,800 Ihr wollt, vor allem wenn sie halluziniert, da liegt das in 753 00:37:08,800 --> 00:37:12,680 bestimmt 90% der Fälle daran, dass sie selber nicht die 754 00:37:12,680 --> 00:37:14,560 richtigen Informationen hatte und. 755 00:37:15,040 --> 00:37:17,200 Idealerweise seid ihr selber dafür verantwortlich oder sind 756 00:37:17,200 --> 00:37:20,040 wir alle dafür verantwortlich, diese richtigen Informationen 757 00:37:20,040 --> 00:37:22,320 mit Reinzugeben? Ja, es gibt Technologien wie RAG 758 00:37:22,400 --> 00:37:24,800 oder auch manche MCP. Server, über die das. 759 00:37:24,800 --> 00:37:27,120 Ki Modell, das dann selber herausfinden kann, dynamisch 760 00:37:27,520 --> 00:37:30,880 aber noch mal alles was ich schon weiß was relevant sein 761 00:37:30,880 --> 00:37:35,440 könnte, gerade im Coding Dateien Ordner Library I ds. 762 00:37:36,040 --> 00:37:38,120 Wenn ich die manuell mit Reingeben kann ist schon ganz 763 00:37:38,120 --> 00:37:40,320 ganz viel geworden. Vielleicht lachen wir in 2 764 00:37:40,320 --> 00:37:42,760 Jahren drüber und sagen, heute sind die Modelle so intelligent, 765 00:37:42,760 --> 00:37:45,280 dass sie das eh alles automatisch hochpräzise ohne 766 00:37:45,280 --> 00:37:48,040 Fehler zu machen rauszufinden. Stand heute aber nicht. 767 00:37:48,160 --> 00:37:50,400 Stand heute ist context Engineering eigentlich so der 768 00:37:50,400 --> 00:37:53,200 wichtigste Teil, wenn ich so einen Prom Bauer, dass ich 769 00:37:53,200 --> 00:37:55,640 innehalte und mir Gedanken mache, was sind die 770 00:37:55,640 --> 00:37:58,560 Informationen die ich dem Modell mit zur Verfügung stellen muss, 771 00:37:58,720 --> 00:38:02,160 neben all dem, auf das es ja ohnehin schon trainiert wurde 772 00:38:02,320 --> 00:38:05,360 und das zu kuratieren sich da auch vielleicht ein paar Minuten 773 00:38:05,360 --> 00:38:07,360 Zeit zu nehmen, da kurz inne zu halten, auch gerade in so einem 774 00:38:07,360 --> 00:38:10,080 Coding Tool und zu überlegen, ja was sind denn Dateien die ich 775 00:38:10,080 --> 00:38:12,200 vielleicht einem Menschen wie malte das vorhin gesagt hat, 776 00:38:12,200 --> 00:38:14,120 fand ich eigentlich cool, mitgeben würde sagen, Guck doch 777 00:38:14,120 --> 00:38:16,720 mal da und da und da. Und das vielleicht schon mal mit 778 00:38:16,720 --> 00:38:20,120 Reinzugeben hat eine sehr, sehr hohe Wahrscheinlichkeit, euch 779 00:38:20,120 --> 00:38:23,480 noch bessere Ergebnisse zu liefern und das ist zumindest 780 00:38:23,480 --> 00:38:25,280 was was malte und ich gerade viel auch miteinander 781 00:38:25,280 --> 00:38:28,160 diskutieren, dass wir sagen, Hey okay, wie kann ich zu einem 782 00:38:28,160 --> 00:38:30,520 Coding Agenten, der ganz offenbar viel Potenzial hat, 783 00:38:30,520 --> 00:38:32,680 aber auch ganz offenbar manchmal noch ganz viel Quatsch macht und 784 00:38:32,680 --> 00:38:36,000 einen Fehler macht, besser in die richtige Richtung lenken und 785 00:38:36,400 --> 00:38:38,160 die Industrie scheint sich gerade zumindest ein bisschen 786 00:38:38,160 --> 00:38:41,120 darauf eingeschlossen zu haben, dass je besser der Kontext ist, 787 00:38:41,120 --> 00:38:43,120 desto besser sind die Ergebnisse und wir können das zumindest aus 788 00:38:43,120 --> 00:38:45,680 unserer Erfahrung bestätigen. Freuen uns aber auch, wenn ihr 789 00:38:45,680 --> 00:38:48,000 da vielleicht irgendwie Erfahrungen schon zugesammelt 790 00:38:48,000 --> 00:38:50,560 habt und das mit uns und auch mit allen hier in der Community, 791 00:38:50,560 --> 00:38:52,400 vielleicht sogar in den Kommentaren teilen wollt. 792 00:38:54,160 --> 00:38:57,440 Ja, und wie wichtig auch so ein guter Kontext ist und auch die 793 00:38:57,440 --> 00:39:00,800 Unterstützung durch uns menschliche Entwicklerinnen und 794 00:39:00,800 --> 00:39:03,040 Entwickler sieht man auch in manchen Beispielen, die im 795 00:39:03,040 --> 00:39:05,920 Internet kursieren, wo dann solche Coding Agenten sich 796 00:39:05,920 --> 00:39:08,360 vielleicht auch in irgendwelchen Schleifen verfangen, weil die 797 00:39:08,360 --> 00:39:11,360 entsprechenden Informationen fehlen oder vielleicht auch. 798 00:39:12,320 --> 00:39:15,320 Verzweifeln, weil sie bestimmte Bugs gar nicht lösen können. 799 00:39:15,320 --> 00:39:17,240 Weil zu viele Informationen sind, haben wir auch. 800 00:39:17,240 --> 00:39:18,800 Dann konnte ich auch zu lang werden. 801 00:39:19,240 --> 00:39:21,120 Ich pack da mal einen entsprechenden Link in die in 802 00:39:21,120 --> 00:39:24,640 die Shownotes rein zu einem ganz spannenden Artikel, wo halt auch 803 00:39:24,880 --> 00:39:28,800 wirklich so ein Gemini Pro basierendes sprachmodell sich 804 00:39:28,800 --> 00:39:32,400 tatsächlich in so einer Schleife verfängt und am Ende wirklich an 805 00:39:32,400 --> 00:39:35,760 den eigenen Fähigkeiten zweifelt und schon sagt, Ich muss mich 806 00:39:35,760 --> 00:39:38,800 selber löschen, weil ich zu dumm bin dieses Problem zu lösen, 807 00:39:39,040 --> 00:39:41,600 fand ich sehr amüsant. Lest euch das auf jeden Fall mal 808 00:39:41,600 --> 00:39:43,680 durch, aber das. Zeigt halt, dass wir auch 809 00:39:43,840 --> 00:39:47,400 gemeinsam mit diesen Tools arbeiten müssen und dass wir uns 810 00:39:47,400 --> 00:39:49,000 nicht darauf verlassen können, dass wir einfach nur eine 811 00:39:49,000 --> 00:39:52,160 Aufgabe da reingeben und dann wird das schon auf magische Art 812 00:39:52,160 --> 00:39:54,800 und Weise passieren. Was mich persönlich 813 00:39:54,800 --> 00:39:58,000 interessieren würde ist, ob ihr schon angefangen habt, eure 814 00:39:58,000 --> 00:40:01,840 Projekte für diese KI gestützte Entwicklung vorzubereiten, um 815 00:40:01,840 --> 00:40:05,440 halt solche wiederverwendbaren Informationen im Projekt 816 00:40:05,440 --> 00:40:09,200 abzulegen und damit halt. Anderen und euch selber die 817 00:40:09,200 --> 00:40:12,320 Möglichkeit zu geben, einfacher Context Engineering zu 818 00:40:12,320 --> 00:40:14,720 betreiben. Ich würde dann mal auf Spotify 819 00:40:14,720 --> 00:40:17,840 zumindest eine Umfrage an die Folge dranhängen, wo ihr dann 820 00:40:17,840 --> 00:40:20,600 mal sagen könnt okay, wir machen das schon oder ich habe gerade 821 00:40:20,600 --> 00:40:23,440 mal damit angefangen, würde mich auf jeden Fall interessieren. 822 00:40:24,320 --> 00:40:26,560 Und wie immer gilt natürlich auch, wenn euch die Folge 823 00:40:26,560 --> 00:40:29,520 gefallen hat, dann lasst uns gerne eine gute Bewertung da sei 824 00:40:29,520 --> 00:40:32,720 es auf Spotify, auf Apple Podcast, wo auch immer ihr 825 00:40:33,120 --> 00:40:35,280 Podcasts hört, wenn man da Sternchen oder Däumchen 826 00:40:35,280 --> 00:40:37,520 hinterlassen kann. Dann freuen wir uns immer sehr 827 00:40:37,520 --> 00:40:40,080 und sehr freuen wir uns natürlich auch immer, wenn ihr 828 00:40:40,080 --> 00:40:42,000 uns einen Kaffee ausgeben möchtet. 829 00:40:42,720 --> 00:40:46,000 Dazu findet ihr einen Link zu bei mir Coffee in den Shownotes, 830 00:40:46,160 --> 00:40:48,400 da sind wir immer sehr gerührt und wir werden ein paar 831 00:40:48,400 --> 00:40:51,320 Eiswürfel reinschmeißen und dann hilft es uns zumindest auch in 832 00:40:51,320 --> 00:40:52,800 diesen heißen Tagen durch den Sommer. 833 00:40:53,280 --> 00:40:55,720 Und natürlich würden wir uns auch freuen, wenn ihr nächste 834 00:40:55,720 --> 00:40:59,600 Woche wieder dabei seid, wenn wir die nächste News folge des 835 00:40:59,600 --> 00:41:01,720 to do developer Podcast aufnehmen. 836 00:41:01,720 --> 00:41:05,120 Die nächste Themenfolge gibt es dann wie üblicherweise in 2 837 00:41:05,120 --> 00:41:08,000 Wochen wieder. Bis dahin habt eine gute Zeit, 838 00:41:08,000 --> 00:41:11,520 schreibt ganz viel Code, Kurt euren Kontext und bis bald.