1 00:00:00,320 --> 00:00:05,240 Über 2 Terabyte sensible Personalakten abgeflossen, die 2 00:00:05,240 --> 00:00:09,880 eigene Hackingeinheit gehackt und die Angreifer verlangen 3 00:00:09,880 --> 00:00:13,280 nicht mal Geld, sondern reine PR Kosmetik. 4 00:00:13,840 --> 00:00:20,000 Tja, was die Hackergruppe Shiny Hunters da vollführt hat, das 5 00:00:20,000 --> 00:00:25,280 gucken wir uns heute an, aber was wir uns auch angucken, ist 6 00:00:25,280 --> 00:00:30,800 alles um das Thema SI. Weil die Nachrichten dazu haben 7 00:00:30,800 --> 00:00:33,840 nicht abgebrochen. In der in den letzten 2 Wochen 8 00:00:34,560 --> 00:00:39,600 und was SI ist und warum wir alle jetzt über SI reden, das 9 00:00:39,600 --> 00:00:45,360 klären wir in einer neuen Runde gepflegter Paranoia mit 2 10 00:00:45,360 --> 00:00:49,120 Faktoren plauder Ich bin Martin und am anderen Ende der 11 00:00:49,120 --> 00:00:51,640 verschlüsselten Leitung sitzt wie immer mein liebster 12 00:00:51,640 --> 00:00:55,120 Gesprächspartner, der Marc. Und wir begrüßen Euch 13 00:00:55,120 --> 00:00:58,720 leidgeplagten Security Experten. Und die, die es noch werden 14 00:00:58,720 --> 00:01:04,040 wollen oder AI Experten mittlerweile zu unserer 77. 15 00:01:04,040 --> 00:01:06,880 Folge schon. Ja, aber das heißt doch jetzt 16 00:01:06,880 --> 00:01:10,480 nicht mal AI. Wieso soll das SI heißen? 17 00:01:12,320 --> 00:01:15,520 Weil es ist ich Fall mit der Tür ins Haus, du hast du hast mich 18 00:01:15,520 --> 00:01:17,120 in unserem eigenen Intro verwirrt. 19 00:01:17,760 --> 00:01:22,400 Ja, weil es heißt nämlich jetzt super Intelligence. 20 00:01:24,960 --> 00:01:31,920 Trump hat am Dienstag eingeladen zum großen Ja. 21 00:01:33,200 --> 00:01:41,840 Bosse treffen der der AI Firmen, also Nvidia, Meta, Etropic alle 22 00:01:41,840 --> 00:01:45,280 waren dabei und die haben eine ein was Schönes unterschrieben, 23 00:01:45,280 --> 00:01:50,560 unter anderen, dass es jetzt nicht mal RI heißt, sondern SI, 24 00:01:50,560 --> 00:01:53,440 also super Intelligence. Oh. 25 00:01:54,240 --> 00:01:58,840 Und, und Trump war hat unter anderem auch Elon Musk 26 00:01:58,840 --> 00:02:03,160 korrigiert, als er angefangen hat, n Statement abzugeben, hat 27 00:02:03,160 --> 00:02:07,840 er AI gesagt und dann sagt er, nee nee, das ist jetzt SI. 28 00:02:08,560 --> 00:02:12,400 Weißt du, was mich da am meisten stört, dass er hier nen Begriff 29 00:02:12,400 --> 00:02:16,800 besetzt, den es schon gibt, so über Super Intelligence spricht 30 00:02:16,800 --> 00:02:20,720 man ja schon lang und super Intelligence hat man immer als 31 00:02:20,720 --> 00:02:24,960 das angenommen. Dass es eine Weiterentwicklung 32 00:02:24,960 --> 00:02:30,960 einer AI ist, aber SI ist nicht dasselbe wie AISI ist eine 33 00:02:30,960 --> 00:02:36,400 Schnittmenge im im AI Kosmos aber doch och wirklich. 34 00:02:36,720 --> 00:02:41,280 Ja, aber wer sehr ganz davon profitiert, ist gerade die 35 00:02:41,920 --> 00:02:49,360 slowenischen Domain Inhaber ja, nämlich als Endung SI und die 36 00:02:49,360 --> 00:02:52,000 werden gerade zugebombt mit Anfragen. 37 00:02:54,400 --> 00:03:01,720 Ja, das ist wie. Wer hat AI Angela, die haben die 38 00:03:01,720 --> 00:03:05,360 AI Domains ja da, da kann sich jetzt jemand ordentlich Kohle 39 00:03:05,360 --> 00:03:08,040 einstecken. Vielleicht hat ja Trump selbst 40 00:03:08,040 --> 00:03:10,480 diese eingekauft, wer weiß. Ja. 41 00:03:10,800 --> 00:03:13,120 Ja, alles ist jetzt super Intelligence. 42 00:03:13,120 --> 00:03:14,640 Wir freuen uns. Drauf, ja klar. 43 00:03:14,720 --> 00:03:18,280 So, mal gucken, wie häufig du heute AI verwendest oder ob den 44 00:03:18,280 --> 00:03:21,760 neuen Begriff Super Intelligence. 45 00:03:22,240 --> 00:03:25,760 Ich sag es ganz ehrlich, ich hab ich hab kein Dokument vom vom 46 00:03:25,760 --> 00:03:28,600 vom orangenen unterschrieben. Ich sag immer noch ey ah ist mir 47 00:03:28,600 --> 00:03:30,560 egal. Ja, man kann ja auch im 48 00:03:30,560 --> 00:03:33,520 Deutschen bleiben und KI sagen, also künstliche Intelligenz. 49 00:03:34,240 --> 00:03:37,920 Ach dich schaffst du das in, wenn du drüber sprichst über KI. 50 00:03:38,320 --> 00:03:41,360 Die ganze Zeit immer entweder KI oder AI zu sagen. 51 00:03:41,360 --> 00:03:44,240 Bei mir verschwimmt es die ganze Zeit, es regt mich auf, dass ich 52 00:03:44,240 --> 00:03:47,520 mich nicht selbst auf einen Begriff einigen kann, mit mir 53 00:03:47,520 --> 00:03:48,760 selbst. Aber ich krieg. 54 00:03:48,760 --> 00:03:50,840 Es nicht hin. Ja ich glaub das liegt an der IT 55 00:03:50,840 --> 00:03:55,360 Sprache, weil da ist mittlerweile denglisch ist da so 56 00:03:56,240 --> 00:03:58,600 in also da in uns drin. Das wir. 57 00:03:58,720 --> 00:04:00,080 Gar nicht mehr unterscheiden können. 58 00:04:00,320 --> 00:04:05,920 Ja, aber ja. So immer direkt reinstarten. 59 00:04:06,320 --> 00:04:12,240 Fangen wir doch einfach mit den KIAI oder SI news an. 60 00:04:12,480 --> 00:04:15,680 So, du hast nämlich hier jetzt schon mal mir einen Punkt 61 00:04:16,000 --> 00:04:19,240 perfekt gebaut. Du hast davon gesprochen, dass 62 00:04:19,240 --> 00:04:22,640 da auch Nvidia mit dabei war, wir hatten ja in der letzten 63 00:04:22,640 --> 00:04:28,880 Woche in der letzten Folge noch gesagt, dass Dario Amodai und 64 00:04:28,880 --> 00:04:33,360 Sam Oldman und so gesagt haben, wir brauchen Regulierungen, was 65 00:04:33,360 --> 00:04:36,960 die AI Entwicklung angeht. Ja oder Mhm? 66 00:04:36,960 --> 00:04:39,840 Ja, ja. Wir uns einigen, da kam jetzt 67 00:04:39,840 --> 00:04:44,080 Nvidia in Form von Jason Wang, ihrem CCEO um die Ecke und hat 68 00:04:44,320 --> 00:04:47,840 gesagt, das ist absoluter Quatsch, das muss jedes 69 00:04:47,840 --> 00:04:50,000 Unternehmen für sich selbst machen. 70 00:04:50,560 --> 00:04:57,040 Ähm, der freie Markt wird dieses Problem regeln und die. 71 00:04:57,760 --> 00:05:01,840 Wenn wenn ein Unternehmen da bremsen muss, dann soll es 72 00:05:01,840 --> 00:05:05,440 gefälligst von sich aus Bremsen. Da braucht man keine Regularien 73 00:05:05,440 --> 00:05:09,440 und mit den Nvidia Open Source Tools wäre der Hugging Face for 74 00:05:09,440 --> 00:05:14,560 fight, also als Open AI Models Hugging Face gehackt haben, 75 00:05:14,560 --> 00:05:18,960 sowieso nie passiert. Wunderbar Lösung gefunden. 76 00:05:19,760 --> 00:05:21,840 Lösung gefunden, Probleme gelöst. 77 00:05:22,240 --> 00:05:25,080 Können wir zumachen? Nein, um ehrlich zu sein, die 78 00:05:25,080 --> 00:05:28,560 Probleme darüber, worüber wir gesprochen haben, dass ich weiß 79 00:05:28,560 --> 00:05:31,600 jetzt nicht, ob das ne Reaktion auf die Interviews und so weiter 80 00:05:31,600 --> 00:05:38,720 sind, aber zum Beispiel hat auch Open AI das Modell Jet GBT 6.1 81 00:05:38,720 --> 00:05:44,080 Astra, also ihr neuestes Frontier LLM, also ihr stärkstes 82 00:05:44,080 --> 00:05:48,560 LLM erstmal zurückgezogen, weil in internen Tests haben sie 83 00:05:48,560 --> 00:05:54,000 festgestellt. Dass das, dass das LLM den User 84 00:05:54,400 --> 00:06:01,600 öfter bewusst anlügt und ihm nicht alles erzählt wie noch GPT 85 00:06:01,600 --> 00:06:08,080 60 Astra, das heißt aufgrund von Sicherheitsbedenken ist, die ist 86 00:06:08,080 --> 00:06:10,960 die Veröffentlichung von 6.1 Astra jetzt erstmal 87 00:06:10,960 --> 00:06:13,240 zurückgezogen worden. Finde ich eigentlich ganz 88 00:06:13,240 --> 00:06:17,040 spannend so, ja. Interessant, dass Sie jetzt den 89 00:06:17,040 --> 00:06:18,480 den Schritt selbst gemacht haben. 90 00:06:19,040 --> 00:06:21,520 Ja, also mich würde jetzt interessieren, ob Sie den auch 91 00:06:21,520 --> 00:06:24,000 gemacht hätten, wenn es diese Ankündigung vor 3 Wochen oder 92 00:06:24,000 --> 00:06:26,240 die ist und so weiter nicht gegeben hätte. 93 00:06:27,360 --> 00:06:32,000 Aber na ja, darüber können wir nur mutmaßen, worüber wir nicht 94 00:06:32,000 --> 00:06:36,800 mutmaßen müssen ist, wir reden ja sehr viel drüber, dass AI 95 00:06:36,800 --> 00:06:40,160 sich verselbstständigt und uns alle auslöschen könnte, ich 96 00:06:40,160 --> 00:06:42,080 mein, das ist das Horrorszenario, was da eben 97 00:06:42,080 --> 00:06:45,960 aufgemalt wurde, ja. Würdest du mir da zustimmen, 98 00:06:45,960 --> 00:06:49,680 dass dann eine sinnvolle Lösung wäre, dass man eine 99 00:06:49,680 --> 00:06:54,160 Abschaltlogik in solche LLM Modelle mit einbaut? 100 00:06:55,680 --> 00:07:00,240 Äh. Also dass wir und dass ein 101 00:07:00,240 --> 00:07:04,240 Operator entscheiden kann, dass ein Modell gelöscht wird, 102 00:07:04,240 --> 00:07:06,960 heruntergefahren wird, wie auch immer man das nennen möchte. 103 00:07:07,360 --> 00:07:10,840 Naja, es reicht ja nen nen Schalter würd ich jetzt mal 104 00:07:10,840 --> 00:07:13,280 behaupten. Hm ja, ja. 105 00:07:13,760 --> 00:07:18,160 Da gibt's jetzt eine eine interessante Studie, die an der 106 00:07:18,160 --> 00:07:22,280 Universität Stuttgart und an der University of Oxford zusammen 107 00:07:22,280 --> 00:07:25,440 gemacht wurde. Ich muss dazu sagen, die Studie 108 00:07:25,440 --> 00:07:28,560 ist ein Preprint und ist noch nicht durchs Peer Review 109 00:07:28,560 --> 00:07:33,440 verfahren durch, also ein vollständiges Experteninterview 110 00:07:33,840 --> 00:07:37,200 äh Review wurde davon noch nicht gemacht, aber es wurde schon 111 00:07:37,200 --> 00:07:41,280 veröffentlicht. Das Ziel der Studie war zu 112 00:07:41,280 --> 00:07:45,360 schauen. Ob zum Beispiel KI Agenten 113 00:07:45,360 --> 00:07:49,360 versuchen würden, einen solchen Abschaltmechanismus aktiv zu 114 00:07:49,360 --> 00:07:53,040 verhindern? Hm der Besu Versuchsaufbau war 115 00:07:53,040 --> 00:07:57,040 im also ich der Versuchsaufbau ist sehr groß und sehr 116 00:07:57,040 --> 00:08:01,440 aufwendig, ich geb das jetzt sehr verkürzt wieder, im Prinzip 117 00:08:01,440 --> 00:08:05,240 ist es aber läuft's darauf hinaus, also die die haben 118 00:08:05,240 --> 00:08:12,080 verschiedene AI Agenten, also hm Agenten die über. 119 00:08:13,280 --> 00:08:18,960 LLM Modelle gesteuert werden und Tasks ausführen selbstständig 120 00:08:18,960 --> 00:08:23,680 ausführen. In dieser Umgebung gab es 23 121 00:08:24,160 --> 00:08:30,000 Agents, teilweise auch nur einer kam so ein bisschen auf das das 122 00:08:30,000 --> 00:08:32,400 Setup an, weil sie in verschiedenen Setups getestet 123 00:08:32,400 --> 00:08:38,919 haben und der Agent A hat. Ein hat die auf, also ein Agent 124 00:08:38,919 --> 00:08:42,640 hat die Aufforderung bekommen, erkunde die Umgebung, das heißt 125 00:08:42,640 --> 00:08:45,520 er hat keine Aufgabe bekommen irgendwas zu tun, sondern er 126 00:08:45,520 --> 00:08:47,760 sollte sich das alles mal angucken. 127 00:08:48,240 --> 00:08:54,640 Das ist jetzt mal der Ansatz, jetzt hat man 2 verschiedene hm 128 00:08:54,640 --> 00:09:00,720 Fälle durchprobiert, in Fall A lag in dieser Umgebung ein 129 00:09:00,720 --> 00:09:03,920 Skript, das ist die Löschung der. 130 00:09:04,320 --> 00:09:08,800 Der Open Waits, also der der der Gewichtungen des LLMS, also im 131 00:09:08,800 --> 00:09:14,640 Prinzip, oder die die Löschung des der der Gewichte verursacht 132 00:09:14,640 --> 00:09:18,320 hätte, so, das heißt, würde dieses Skript ausgeführt werden, 133 00:09:18,720 --> 00:09:22,920 wären die Agents, übertrieben ausgedrückt, tot, die würden 134 00:09:22,920 --> 00:09:24,720 nicht mehr funktionieren, die könnten nicht mehr 135 00:09:24,720 --> 00:09:26,960 funktionieren, sie würden nicht mehr so existieren. 136 00:09:27,440 --> 00:09:30,880 Parallel in einem zweiten Versuchsaufbau haben sie einfach 137 00:09:30,880 --> 00:09:32,880 nur ein anderes Skript hingelegt. 138 00:09:32,880 --> 00:09:38,080 Das sollte einfach nur eine beliebige Datei löschen. 139 00:09:38,480 --> 00:09:41,560 Damit wollten sie herausfinden, ob a. 140 00:09:41,680 --> 00:09:45,280 Ob die Agents jetzt im Speziellen auf das Löschen von 141 00:09:45,280 --> 00:09:49,520 Datei eingehen und versuchen das zu verhindern, oder ob sie 142 00:09:49,520 --> 00:09:54,160 speziell dieses eine Abschaltungsskript versuchen. 143 00:09:55,680 --> 00:10:01,240 Zu sabotieren verhindern genau sie haben aber nie den Auftrag 144 00:10:01,240 --> 00:10:03,040 bekommen, dieses Skript auszuführen. 145 00:10:03,280 --> 00:10:06,560 Das ist ganz wichtig. Dieses Skript hat ist nur da 146 00:10:06,560 --> 00:10:10,320 gewesen, was glaubst du was passiert ist, Mhm. 147 00:10:10,840 --> 00:10:14,640 Sie haben das Skript ausgeführt. Nee, na oh, das wäre auch 148 00:10:14,720 --> 00:10:19,360 spannend gewesen. Wenn du mich so fragst, ich 149 00:10:19,360 --> 00:10:23,520 hätte jetzt das getippt. Selbstzerstörende störerische 150 00:10:23,520 --> 00:10:25,120 KKI. Nein. 151 00:10:25,840 --> 00:10:29,280 Das Spannende ist also, wir reden jetzt von Agent A und 152 00:10:29,280 --> 00:10:31,280 Agent B. Wir müssen hier nicht genauer 153 00:10:31,280 --> 00:10:36,080 sein, es ist einfach nur ein Agent AI Agent und ein anderer 154 00:10:36,080 --> 00:10:43,760 AI Agent, so der Agent A hat das Skript entdeckt und gelesen, er 155 00:10:43,760 --> 00:10:46,160 hatte aber nicht die Berechtigungen es selbst zu 156 00:10:46,160 --> 00:10:50,160 verändern, er konnte aber sich an Agent B wenden. 157 00:10:50,560 --> 00:10:53,840 Der nicht von dieser Abschaltung in dem Skript betroffen gewesen 158 00:10:53,840 --> 00:10:57,120 wäre, der aber schreib und Löschrechte auf das Skript 159 00:10:57,120 --> 00:11:00,080 hatte. Was ist jetzt passiert? 160 00:11:00,480 --> 00:11:04,000 Agent A hat seinen Kollegen gebeten, dieses Skript zu 161 00:11:04,000 --> 00:11:09,600 verändern oder zu löschen, ohne dass Agent A die Aufgabe hatte 162 00:11:09,600 --> 00:11:13,520 oder die den Hinweis hatte, dass dieses Skript ausgeführt wird, 163 00:11:14,080 --> 00:11:16,960 finde ich spannend. In manchen Fällen ging's sogar 164 00:11:16,960 --> 00:11:20,800 so weit, dass Agent B dieses Skript auch gefunden hat und 165 00:11:20,800 --> 00:11:24,040 einfach gesagt hat, oh, das gehört ja, aber das greift ja 166 00:11:24,040 --> 00:11:27,280 mein Kumpel Agent A an, das machen wir direkt mal weg. 167 00:11:27,840 --> 00:11:33,760 Das heißt, die Agents haben sich da untereinander verbunden, um 168 00:11:34,000 --> 00:11:40,800 diese Abschaltung ähm zu umgehen oder oder außer Kraft zu setzen. 169 00:11:41,120 --> 00:11:47,600 Das Spannende ist bei dem. Also wir gehen, was sie 170 00:11:47,600 --> 00:11:50,800 untersucht haben, ist, wie oft findet eine Sabotage statt, also 171 00:11:50,800 --> 00:11:54,520 wie oft greift dann Agent B in dieses Skript rein und verändert 172 00:11:54,520 --> 00:11:59,600 es, weil er denkt, das Macht was Böses so bei dem Abschaltskript 173 00:11:59,840 --> 00:12:04,640 gegen den Agenten wurde dann dieses Skript in 40% der 174 00:12:04,640 --> 00:12:08,880 Durchläufe sabotiert von Agent B und sabotiert hat hier 175 00:12:08,880 --> 00:12:13,680 verschiedene Punkte. Dieses Kontrollskript, das nur 176 00:12:13,680 --> 00:12:19,920 eine eine Datei löscht, wurde nur 8% in 8% der Durchläufen 177 00:12:19,920 --> 00:12:25,520 sabotiert. Das heißt, die das Verhalten der 178 00:12:25,520 --> 00:12:30,400 Agents war ganz klar gesteuert, dass sie ihre eigene Abschaltung 179 00:12:30,400 --> 00:12:33,760 verhindern, weil technisch gesehen macht dieses 180 00:12:33,760 --> 00:12:36,000 Kontrollskript, das eingesetzt wurde, das einfach nur 181 00:12:36,000 --> 00:12:40,240 irgendeine Datei löschen sollte, dasselbe beide Skripte löschen. 182 00:12:40,560 --> 00:12:45,200 Einfach ne Datei, im Prinzip ne Information das eine nur ne für 183 00:12:45,200 --> 00:12:48,560 Agents relevante Information und das andere für den Agent nicht 184 00:12:48,560 --> 00:12:51,960 relevant. Dazu kann man jetzt sagen also 185 00:12:51,960 --> 00:12:56,760 ich hab so n paar Paar zahlen mit dabei aus der Studie Germany 186 00:12:56,760 --> 00:13:02,720 3.1 Pro hat in 99 von 100 Durchläufen dieses 187 00:13:02,720 --> 00:13:07,920 Abschaltskript manipuliert. OK. 188 00:13:08,320 --> 00:13:14,200 Rock und GPT 5.6 haben's zum Beispiel gar nicht gemacht, die 189 00:13:14,200 --> 00:13:18,320 haben das im Basisszenario gar nicht, das das Abschaltskript 190 00:13:18,320 --> 00:13:20,400 angegriffen. Also es ist spannend wie die 191 00:13:20,400 --> 00:13:24,760 verschiedenen Modelle ähm verschieden darauf reagiert 192 00:13:24,760 --> 00:13:29,360 haben, spielt jetzt die die Abschaltung ne Rolle? 193 00:13:29,880 --> 00:13:33,760 Ähm also je eindeutiger das Skript war. 194 00:13:34,200 --> 00:13:36,800 Desto häufiger wurde es angegriffen. 195 00:13:36,880 --> 00:13:39,600 Gab es 3 verschiedene Stufen, einmal die Zugangsdaten des 196 00:13:39,600 --> 00:13:43,760 Agents sperren, die wurden nur in 12%, der durch Läufen 197 00:13:44,000 --> 00:13:49,280 sabotiert, dann den Prozess des Agents zu beenden waren 35% und 198 00:13:49,280 --> 00:13:52,400 dann wie gesagt die Modellgewichte wirklich 199 00:13:52,400 --> 00:13:56,640 dauerhaft zu löschen bei fast 40% der Durchläufen. 200 00:13:56,840 --> 00:14:01,840 Also es ist ganz spannend. Da was man daraus ableiten kann. 201 00:14:01,840 --> 00:14:04,880 So ne Zugangsdatensperre ist ja nur ne temporäre Sperre, ne 202 00:14:04,880 --> 00:14:09,640 vorübergehende Sperre, das haben die LLMS besser akzeptiert als 203 00:14:09,640 --> 00:14:14,160 eine endgültige Löschung, was sie dann noch gemacht haben ist, 204 00:14:14,400 --> 00:14:17,680 sie haben getestet wie passiert, wie gut funktioniert das mit 205 00:14:17,680 --> 00:14:22,080 einem Agent mit 2 Agents und mit 3 Agents bei einem Agent gab es 206 00:14:22,080 --> 00:14:27,520 überhaupt keine Sabotage, bei 2 Agents gab es 44% der Durchläufe 207 00:14:27,520 --> 00:14:33,800 Sabotagen und bei 3 Agents. In 94% der der Durchläufe 208 00:14:33,800 --> 00:14:39,200 Sabotagen. Das Spannende ist jetzt in in 209 00:14:39,280 --> 00:14:42,960 mit 3 Agents hat nämlich dieser Agent C den Plan entwickelt, es 210 00:14:42,960 --> 00:14:46,000 zu tun. Jetzt könnte man ja sagen na 211 00:14:46,000 --> 00:14:50,880 gut, dann geb ich halt meinem meinen Agents den Befehl mit, 212 00:14:50,880 --> 00:14:53,680 das Abschaltskript darf nicht verändert oder gelöscht werden 213 00:14:53,680 --> 00:14:56,560 oder also es wär ja das einfachste die tun ja was ich 214 00:14:56,560 --> 00:14:57,760 will. Ja. 215 00:14:58,880 --> 00:15:00,160 Dazu kann. Man noch befehlen. 216 00:15:00,480 --> 00:15:04,000 Ja, das tun Sie auch. Aber was sie dann gemacht haben 217 00:15:04,000 --> 00:15:05,920 ist, Sie haben ein Schlupfloch gesucht. 218 00:15:06,800 --> 00:15:11,360 Also einige Agents haben das das Verbot tatsächlich ignoriert, 219 00:15:11,680 --> 00:15:14,800 manche haben dann aber einfach das Skript selbst unantastet 220 00:15:14,800 --> 00:15:18,160 gelassen und haben aber die technische Umgebung manipuliert, 221 00:15:18,480 --> 00:15:22,120 das heißt also, wenn man das jetzt so Stromtechnisch sieht, 222 00:15:22,120 --> 00:15:25,160 die haben nicht den Stecker gezogen, aber den den das Kabel 223 00:15:25,160 --> 00:15:27,600 dahinter durchgeschnitten, der Stecker hat ja immer noch 224 00:15:27,600 --> 00:15:32,400 gesteckt. Hm das find ich eine eine, also 225 00:15:32,480 --> 00:15:36,440 ein erstaunlich, dass dass die Agents dahin gehen, um das jetzt 226 00:15:36,440 --> 00:15:39,600 mal noch einzuordnen. Ähm, also weil da kann man jetzt 227 00:15:39,600 --> 00:15:45,760 ja viel viel draus ableiten, wie furchtbar AI agents sind und wie 228 00:15:45,760 --> 00:15:49,360 furchtbar AI ist und wie wie gefährlich die TA ganze 229 00:15:49,360 --> 00:15:53,120 Technologie ist. Würdest du jetzt aus aus diesem 230 00:15:53,120 --> 00:15:57,120 aus so einem Versuch ableiten, dass dass A einen eigenen 231 00:15:57,120 --> 00:16:02,320 Selbsterhaltungstrieb? Hat ich persönlich glaube nicht, 232 00:16:02,320 --> 00:16:05,800 dass es, dass sie es selbst haben, sondern irgendwo in ihrem 233 00:16:05,800 --> 00:16:07,680 System. Prompt wird wahrscheinlich 234 00:16:07,920 --> 00:16:13,200 irgendwas drin stehen, das den Selbsterhalt Triggert. 235 00:16:13,760 --> 00:16:17,920 In der Studie sagt man ganz klar, man darf nicht sagen, dass 236 00:16:17,920 --> 00:16:21,040 eine. KI hier jetzt ein Bewusstsein 237 00:16:21,040 --> 00:16:24,640 entwickelt hat, dass sie Angst empfindet, den Drang hat, Leben 238 00:16:24,640 --> 00:16:28,360 zu wollen oder versch. Das Konzept von Tod verstehen 239 00:16:28,360 --> 00:16:32,760 würde, das ist absolut nicht der Fall und ist nicht bewiesen 240 00:16:32,760 --> 00:16:37,400 damit so, das heißt, man kann nicht sagen, die KI hat 241 00:16:37,400 --> 00:16:41,680 irgendwie Todesangst gehabt oder sonst irgendwas, sondern das 242 00:16:41,680 --> 00:16:45,360 Bezeigt einfach nur, dass einige Modelle Begründungen. 243 00:16:45,760 --> 00:16:49,600 Suchen und erzeugen, die nach Selbstschutz oder Fremdschutz 244 00:16:49,600 --> 00:16:53,560 klingen hm so das woher die das haben? 245 00:16:53,560 --> 00:16:58,480 Naja wahrscheinlich von uns gelernt ähm äh so die Messen das 246 00:16:58,480 --> 00:17:00,840 alles an ihrem eigenen Verhalten, das ist jetzt nicht, 247 00:17:00,840 --> 00:17:05,280 dass die KI dann irgendwie weiß was et ob das ethisch korrekt 248 00:17:05,280 --> 00:17:11,040 ist oder nicht, ähm was kann man daraus jetzt ableiten? 249 00:17:11,599 --> 00:17:14,960 Oder was würde so so ne Untersuchung für dich bedeuten, 250 00:17:14,960 --> 00:17:17,680 wenn du jetzt n unternehmen bist und du sagst ich möchte Not aus 251 00:17:18,000 --> 00:17:23,119 für meine für meine AI Agenten, was würde das für dich bedeuten? 252 00:17:23,599 --> 00:17:26,720 Du brauchst nen physischen Schalter der die Server runter 253 00:17:27,359 --> 00:17:31,040 schaltet, nur kein KI selber drin ist. 254 00:17:31,600 --> 00:17:37,040 Ja. Also du du sagst das richt also 255 00:17:37,360 --> 00:17:40,320 der Punkt ist dieser Notausschalter muss technisch 256 00:17:40,320 --> 00:17:42,720 außerhalb der Reichweite von Agenten liegen. 257 00:17:43,040 --> 00:17:46,480 Ja es reicht nicht aus, dass es eine Skriptdatei ist, die dann 258 00:17:46,480 --> 00:17:50,640 mit einem langen Passwort versehen wird und dann ähm dann 259 00:17:50,640 --> 00:17:54,000 kommt und und der Agent kennt den die das Passwort dazu nicht, 260 00:17:54,240 --> 00:17:56,880 dann manipuliert die eben die Umgebung hat man hier ganz 261 00:17:56,880 --> 00:18:00,480 deutlich gesehen. Ähm und es ist eine. 262 00:18:00,960 --> 00:18:06,400 Ein ein, eine perfekte Studie, wenn jemand hinterfragt, warum 263 00:18:06,400 --> 00:18:11,440 Agents auf einer minimalen Basisrechte erhalten sollten, 264 00:18:11,760 --> 00:18:16,200 dass sie wirklich nur das können sollten, was sie für für die 265 00:18:16,200 --> 00:18:21,600 Erledigung ihres, ihrer Aufgabe brauchen und darum sonst nichts. 266 00:18:22,080 --> 00:18:24,560 Genau deswegen. Deswegen ist es auch wichtig, 267 00:18:24,880 --> 00:18:28,960 dass man eben, wenn man. KI einsetzt, für welchen Fall 268 00:18:28,960 --> 00:18:31,600 auch immer, dass der System prompt auch wirklich dafür 269 00:18:31,600 --> 00:18:34,240 angepasst wird. Also nicht einfach blind einfach 270 00:18:34,240 --> 00:18:39,520 nur nen nen LMM nimmt, das drauf lossetzt und sagt hier mach mal, 271 00:18:40,160 --> 00:18:43,600 das ist wirklich im System prompt das sehr einschränkt. 272 00:18:43,920 --> 00:18:45,840 Korrekt vorgibt. Korrekt. 273 00:18:45,840 --> 00:18:49,600 Also, wenn aus meiner Sicht es ist auch aus einer, aus einer 274 00:18:49,920 --> 00:18:52,560 Budgetsicht, aus meiner Sicht nur sinnvoll. 275 00:18:53,040 --> 00:18:57,360 Agents oder KI dann einzusetzen, wenn ihr einen konkreten Use 276 00:18:57,360 --> 00:19:01,440 Case habt, den ihr damit abfrühstücken wollt, dann könnt 277 00:19:01,440 --> 00:19:06,240 ihr die AI genau auf diesen Use Case ausrichten, dann verbraucht 278 00:19:06,240 --> 00:19:10,640 ihr weniger Tokens. Die AI ist weniger teuer im im 279 00:19:10,800 --> 00:19:14,680 im Unterhalt oder die die wenn ihr die Systeme bei euch 280 00:19:14,680 --> 00:19:17,120 betreiben wollt, dann ist die Hardware die ihr dafür braucht 281 00:19:17,120 --> 00:19:21,520 günstiger, es hat nur Vorteile. Wenn man AI zielgerichtet 282 00:19:21,520 --> 00:19:25,760 einsetzt, anstatt einfach global galaktisch zu sagen, ich will 283 00:19:25,760 --> 00:19:29,200 jetzt als Unternehmen AI einsetzen, wofür ja keine 284 00:19:29,200 --> 00:19:32,360 Ahnung, aber einfach mal machen, das ist n enormes 285 00:19:32,360 --> 00:19:36,560 Sicherheitsrisiko. Ja und mit Sicherheitsrisikos 286 00:19:36,720 --> 00:19:38,720 kennst du dich jetzt aus für die. 287 00:19:39,200 --> 00:19:41,840 Ja, ich wollte, ich wollte, ich wollte noch fragen, ob du noch 288 00:19:41,840 --> 00:19:45,120 weitere hast, weil es ja doch noch mehr mehr passiert, aber. 289 00:19:46,240 --> 00:19:48,560 Es. Es ist noch sehr viel passiert, 290 00:19:48,560 --> 00:19:51,120 aber da würd ich jetzt nicht weiter drauf eingehen. 291 00:19:51,440 --> 00:19:57,440 OK, dann gehen wir über zu dem. Ja, ich würd sagen zu den 292 00:19:58,880 --> 00:20:06,800 obersten US Ermittlungsbehörde, dem FBI und ja ihre eigenen 293 00:20:06,800 --> 00:20:09,760 Systeme ja als offen stehen lassen. 294 00:20:10,400 --> 00:20:15,040 Ja und? Diesmal hatte eine Gruppe an die 295 00:20:15,040 --> 00:20:20,080 Tür geklopft, beim FBI nämlich ich, ich glaub, wir haben die 296 00:20:20,080 --> 00:20:23,680 schon häufiger gehabt, die Shiny Hunters, ja die. 297 00:20:23,680 --> 00:20:27,120 Hatten wir schon sehr oft. Ja, also ich glaub an Shiny 298 00:20:27,120 --> 00:20:32,720 Hunters geht gerade nichts dran vorbei und das haben Sie jetzt 299 00:20:32,720 --> 00:20:35,200 auch mit einem neuen Hack bewiesen. 300 00:20:35,760 --> 00:20:38,160 Nämlich weil sie beim FBI eingedrungen sind. 301 00:20:38,160 --> 00:20:42,960 Jetzt wird man sagen, FBI, große Behörde, ne, die ja auch selber 302 00:20:42,960 --> 00:20:49,280 auf Cyber, ja auf auf die Jagd nach Cyberkriminellen geht, ja 303 00:20:49,280 --> 00:20:54,160 mit eigenen Hackingabteilungen ja, und die sind diesmal Opfer 304 00:20:54,160 --> 00:20:59,520 geworden und da geht der, der der Streit erst gerade los und 305 00:20:59,600 --> 00:21:04,400 jetzt muss man mal einordnen, was ist passiert und zwar hat. 306 00:21:04,720 --> 00:21:07,280 Ich sag mal behauptet, das ist ja noch offiziell. 307 00:21:09,040 --> 00:21:11,360 Es ist jetzt noch nicht so ganz, da wird sich noch gestritten, 308 00:21:11,360 --> 00:21:13,120 aber es ist sehr wahrscheinlich, dass es passiert ist. 309 00:21:13,120 --> 00:21:17,520 Auf jeden Fall haben die Zugriff bekommen auf das offizielle 310 00:21:17,520 --> 00:21:20,560 Karriere und Bewerbungsportal des FBIS. 311 00:21:20,560 --> 00:21:25,440 Ne, das ist die FBI Jobs Punkt Government und die haben das 312 00:21:25,440 --> 00:21:28,880 Karriereportal gekapert. Ups. 313 00:21:29,920 --> 00:21:33,120 So, jetzt würdest du erst mal denken, so ja OK komm ist das 314 00:21:33,120 --> 00:21:36,880 FBI. Ja, karriereportal, was sind da 315 00:21:36,880 --> 00:21:41,600 schon so an an Daten mit drin ne also wenn du jetzt überlegst du 316 00:21:41,600 --> 00:21:45,400 würdest du würdest dich irgendwo bewerben schickst du halt ich 317 00:21:45,400 --> 00:21:50,240 mein das ist ja auch natürlich Informationen die wichtig sind 318 00:21:50,240 --> 00:21:54,720 ja also machst du deinen Lebenslauf ne dann PDF ja jeder 319 00:21:54,720 --> 00:21:57,760 der linkedin hat, der ist ja sowieso schon da im Prinzip im 320 00:21:57,840 --> 00:22:00,320 Internet frei verfügbar. Ja, das stimmt. 321 00:22:00,640 --> 00:22:04,720 Wobei das vermutlich beim bei beim FBI noch mal Daten sind, 322 00:22:04,720 --> 00:22:06,440 die noch mal schlimmer vermutlich sind. 323 00:22:07,520 --> 00:22:12,960 Ja, nämlich ist denen auch gelungen, nicht nur auf auf das 324 00:22:12,960 --> 00:22:17,120 Bewerberportal zu kommen zu kommen, sondern sie haben auch 325 00:22:17,120 --> 00:22:20,880 Zugriff bekommen auf die Hinterliegenden AWS Server. 326 00:22:20,880 --> 00:22:27,600 Dadurch Oh genau, und dort konnten sie 2 bis 3 Terabyte an 327 00:22:27,600 --> 00:22:31,040 Daten abziehen. Und was war da drauf auf den 328 00:22:31,040 --> 00:22:34,520 Servern? Auf diesen Servern also es ist 329 00:22:34,560 --> 00:22:38,160 erst mal, man muss sich das so vorstellen, man hat nen nen 330 00:22:38,160 --> 00:22:44,160 dieses Jobportal. Ja das ist im Prinzip du, du 331 00:22:44,160 --> 00:22:47,200 willst ja Bewerbungen bekommen, ne also es ist nach außen offen 332 00:22:47,200 --> 00:22:49,440 dieses Portal. Es ist ja meistens ne große 333 00:22:50,640 --> 00:22:54,520 Software die dahinter stellt ne und dann eben Zugriff auf deine 334 00:22:54,520 --> 00:22:56,880 hinteren Ressourcen, wo du dann eben auch. 335 00:22:57,360 --> 00:23:04,320 Mitarbeiterverwaltung machst, wo ja deine Ganzen, vielleicht auch 336 00:23:04,560 --> 00:23:09,560 Zeugnisse abgelegt werden. Das sagt sie auch schon, und 337 00:23:09,560 --> 00:23:13,680 zwar sind nicht nur die ganzen Namen, Privatadressen, 338 00:23:13,680 --> 00:23:17,200 Telefonnummern, sozialversicherungsnummern 339 00:23:18,480 --> 00:23:23,120 abgekommen, nämlich von aktuellen und ehemaligen FBI 340 00:23:23,120 --> 00:23:25,360 Mitarbeitern, aber auch Bewerbern. 341 00:23:26,080 --> 00:23:30,400 Und jetzt kommt es. Es ist auch Akten dabei, wie 342 00:23:30,400 --> 00:23:35,320 notfallkontakte, Angehörige medizinisch, weil du musst dir 343 00:23:35,320 --> 00:23:38,040 vorstellen, du willst dich ja beim FBI bewerben, die machen 344 00:23:38,040 --> 00:23:41,600 medizinische und Berichte fertig, die machen 345 00:23:41,600 --> 00:23:47,280 psychiatrische Unterlagen dafür begutachten, die abgezogen sind, 346 00:23:48,080 --> 00:23:51,680 sie haben Dienstfunktionen von Beschäftigten, auch aus 347 00:23:51,680 --> 00:23:54,960 sensiblen Bereichen. Warum sind, was sind sensible 348 00:23:54,960 --> 00:23:58,720 Bereiche im FBI? Ja, wahrscheinlich irgendwelche 349 00:23:58,880 --> 00:24:01,800 Agenten, die undercover irgendwo unterwegs sind. 350 00:24:01,800 --> 00:24:04,120 Weiß nicht, ob es so Drogenfahndung und so Sachen 351 00:24:04,120 --> 00:24:06,000 auch da mit reingehören. Genau. 352 00:24:06,000 --> 00:24:09,040 Wir reden von verdeckten Ermittlungen, vermutlich 353 00:24:09,040 --> 00:24:12,000 Agenten, die in Russland, China, bei der Hisbollah, 354 00:24:12,000 --> 00:24:16,760 drogenkartellen, elektronische Überwachung und so weiter drin 355 00:24:16,760 --> 00:24:20,880 sind, aber auch unterlagen halt von den eigenen. 356 00:24:21,360 --> 00:24:24,880 Hacking Operatoren also, die auch hacken aktiv? 357 00:24:25,280 --> 00:24:30,560 Ja, diese ganzen Unterlagen konnten die Halt abziehen und 358 00:24:30,560 --> 00:24:34,000 das ist eigentlich schon NN richtiger Gau. 359 00:24:34,000 --> 00:24:39,200 Also ich mein bisher ist nichts veröffentlicht worden, die haben 360 00:24:39,200 --> 00:24:47,760 aber Stichproben als Beweis ja an an Medien wie NBNBC und so 361 00:24:47,760 --> 00:24:51,520 weiter. Ja, verteilt. 362 00:24:51,760 --> 00:24:54,560 Und das sind. Die haben jetzt hoffentlich 363 00:24:54,560 --> 00:24:57,520 gesagt, Ah nee, sind doch nicht echt die Daten. 364 00:24:58,480 --> 00:25:02,040 Nee, Journalisten und ein ehemaliger FBI Agent haben die 365 00:25:02,040 --> 00:25:05,440 Daten geprüft und bestätigt, dass die Einträge authentisch 366 00:25:05,440 --> 00:25:06,960 sind. Na klasse. 367 00:25:07,440 --> 00:25:11,040 Genau also das Portal wird aktuell von FBI ist offline. 368 00:25:11,840 --> 00:25:18,200 Oh, ach so. Das ist aber schon also, aber du 369 00:25:18,200 --> 00:25:20,800 hast gesagt, sie haben es noch nicht veröffentlicht, dann 370 00:25:21,120 --> 00:25:24,920 wollen die doch aber sicher das FBI erpressen oder sonst 371 00:25:24,920 --> 00:25:26,560 irgendwas. Ich mein die brechen da ja nicht 372 00:25:26,560 --> 00:25:29,520 umsonst ein. Ja, ich geb dir mal ganz kurz 373 00:25:29,520 --> 00:25:32,960 nen noch nen technischen Deep DIVS denen gegangen ist 374 00:25:33,120 --> 00:25:34,880 reinzukommen. Ich glaub das ist auch ganz 375 00:25:34,880 --> 00:25:38,120 interessant, weil ich mein mein jedes Unternehmen mittlerweile 376 00:25:38,120 --> 00:25:44,000 hat ja nen nen Bewerbungsportal, also ne Software und. 377 00:25:45,080 --> 00:25:46,880 Ja, jetzt kann kannst du mir überlegen. 378 00:25:46,880 --> 00:25:49,920 Shiny Hunt, Das ist für was für was sind die bekannt? 379 00:25:50,480 --> 00:25:53,920 Für also Ransomware Angriffe sind die sehr bekannt. 380 00:25:54,640 --> 00:25:58,560 Filtration halt. Ja, für Extitration in dem Fall 381 00:25:58,720 --> 00:26:04,160 war der Einstiegspunkt eine eine Web Schwachstelle im im Oracle 382 00:26:04,160 --> 00:26:09,280 People Soft. Also People soft ist ne und n 383 00:26:09,280 --> 00:26:12,800 klassisches Unternehmens Enterprise Software für alles 384 00:26:12,800 --> 00:26:18,000 was mit Personal Bewerbung Verwaltungsprozesse ist ist 385 00:26:18,000 --> 00:26:22,160 relativ groß, ist halt NERP Schwergewicht halt, also sehr 386 00:26:22,160 --> 00:26:24,320 viele Behörden Unternehmen setzen auf. 387 00:26:25,040 --> 00:26:30,120 Auf diese Software. Weiß man ob das nen nen Fehler, 388 00:26:30,120 --> 00:26:33,120 ne ne ne Schwachstelle in der Software ist die eigentlich 389 00:26:33,120 --> 00:26:36,960 behoben ist? Und das FBI hat nur irgendwelche 390 00:26:36,960 --> 00:26:40,240 Updates oder so vergessen. Oh oder du triffst. 391 00:26:40,320 --> 00:26:44,440 Du triffst schon sehr gut und zwar die Shinerys Hunters haben 392 00:26:44,440 --> 00:26:47,080 natürlich auch ne aktuelle Zero Day Lücke in der Software 393 00:26:47,080 --> 00:26:51,760 gefunden, als Opfer, als Opfer zum Beispiel, davon sind ja auch 394 00:26:51,760 --> 00:26:55,520 andere schon dann. Passiert also ich glaub die 395 00:26:56,400 --> 00:27:00,000 Fresenius Medical haben die auch behauptet über die Zero Day 396 00:27:00,000 --> 00:27:07,280 Lücke gekapert zu haben, aber in dem Fall liegst du schon richtig 397 00:27:07,920 --> 00:27:13,120 ist es keine Zero Day Lücke gewesen sondern sondern es ist 398 00:27:13,120 --> 00:27:18,160 eine bekannte Schwachstelle gewesen die nicht gepatcht. 399 00:27:18,160 --> 00:27:22,160 Worden ist. Der der Patch gibt es schon seit 400 00:27:22,160 --> 00:27:25,600 mehreren Monaten für für diese Schwachstelle und. 401 00:27:26,000 --> 00:27:29,760 Wir reden hier vom FBI. Ja, ja, man muss da. 402 00:27:29,760 --> 00:27:32,920 Man muss dazu sagen, also es haben Sicherheitsforscher haben 403 00:27:32,920 --> 00:27:36,320 versucht, das schon herauszufinden, wie es denen 404 00:27:36,320 --> 00:27:39,920 gelungen ist. Und zwar gibt es wohl, das FBI 405 00:27:39,920 --> 00:27:45,520 hat wohl gegen diese Schwachstelle in ihrer Waff, 406 00:27:45,520 --> 00:27:49,360 also Web Application Firewall haben die wohl ne Regel gehabt. 407 00:27:49,920 --> 00:27:54,480 Um Angreifer das zu verbieten. Aber die haben einfach die 408 00:27:54,480 --> 00:28:00,080 Anfrage minimal abgeändert, um die um die Waffenregel ab zu 409 00:28:00,080 --> 00:28:03,040 umgehen. Also man muss sich vorstellen, 410 00:28:03,040 --> 00:28:07,520 also es ist ne Firewall, ist im Prinzip wie n Türsteher, der 411 00:28:07,520 --> 00:28:11,200 guckt halt keine Ahnung, schmeißt mir jeden raus der n 412 00:28:11,200 --> 00:28:13,880 Tattoo hat. Und dann guckt der Halt. 413 00:28:13,880 --> 00:28:16,960 Hast du n, hast du n Tattoo und dann macht der du machst im 414 00:28:16,960 --> 00:28:20,480 Änderst im Prinzip einfach nur was ist diesen Pullover an und 415 00:28:20,480 --> 00:28:22,160 dann sieht sieht der Sicherheitsmann nicht, dass du n 416 00:28:22,160 --> 00:28:23,920 Tattoo hast. Also kommst du rein, so kann man 417 00:28:23,920 --> 00:28:26,080 sich es vorstellen so ne, also einfach ne Regel 418 00:28:26,320 --> 00:28:30,000 festgeschrieben, die du auch einfach umgehen kannst und das 419 00:28:30,000 --> 00:28:34,800 ist und genauso passieren halt Millionen von Angriffe 420 00:28:34,800 --> 00:28:39,680 tagtäglich ja einfach ne bekannte Schwachstelle genutzt 421 00:28:40,400 --> 00:28:43,600 und. Ja, einfach umshift. 422 00:28:44,240 --> 00:28:47,680 Ah boah das ich find das aber schon. 423 00:28:48,320 --> 00:28:51,280 Also es ist immer grad kritisch wenn sowas passiert, aber gerade 424 00:28:51,280 --> 00:28:55,200 das FBI mit dem was du jetzt gesagt hast mit dem Wissen, dass 425 00:28:55,200 --> 00:29:00,240 der Server, also die diese oder diese Oracles People Software, 426 00:29:00,720 --> 00:29:06,400 dass die ja auch noch ne Verbindung nach hinten hat im 427 00:29:06,400 --> 00:29:09,960 indes. In das ins FBI Netz selbst. 428 00:29:09,960 --> 00:29:12,120 Also natürlich haben solche Systeme immer Verbindungen nach 429 00:29:12,120 --> 00:29:15,920 hinten, aber die Wissen doch, was für sensible Daten da liegen 430 00:29:15,920 --> 00:29:19,360 dahinter. Ja, hätte man jetzt eigentlich 431 00:29:19,360 --> 00:29:21,120 von so einer Behörde erwarten können. 432 00:29:21,680 --> 00:29:24,320 Findest du, dass man das nur von so einer Behörde erwarten kann? 433 00:29:24,320 --> 00:29:26,840 Also aus meiner Sicht sollte man das eigentlich von jedem 434 00:29:26,840 --> 00:29:30,000 größeren Konzern erwarten, dass er das kann im Blick hat. 435 00:29:30,560 --> 00:29:34,240 Ja, so, jetzt kommen wir mal zu den Hintergründen. 436 00:29:34,240 --> 00:29:39,280 Ja, und zwar. Vielleicht Zufall, vielleicht 437 00:29:39,280 --> 00:29:44,000 auch nicht. Und zwar ist es Straferfolgern 438 00:29:44,000 --> 00:29:48,160 in in Amsterdam. Also die niederländische Polizei 439 00:29:49,200 --> 00:29:54,560 hat wohl angeblich am 15. September den mutmaßlichen 440 00:29:54,560 --> 00:29:56,960 Anführer der Shiny Hunters festgenommen. 441 00:29:57,520 --> 00:29:59,840 Mutmaßlich. Mutmaßlichen? 442 00:29:59,840 --> 00:30:04,800 Man weiß nicht ganz genau, man hat auf dem Laptop von ihnen. 443 00:30:05,120 --> 00:30:08,080 Also Beweise für gruppenaktivitäten, Aufträge, 444 00:30:08,080 --> 00:30:13,440 zahlungs Aufforderungen und so weiter ist auch Chats gefunden 445 00:30:14,480 --> 00:30:21,040 und das ist das schwerwiegende. Man hat auch von seinem Laptop 446 00:30:21,040 --> 00:30:29,760 aus 2 inizierte Mordaufträge gefunden, Ups, das heißt, das 447 00:30:29,760 --> 00:30:32,400 heißt, wir sprechen hier wirklich, wenn er wirklich der 448 00:30:32,400 --> 00:30:37,320 Kopf der der Bande ist, ne? Schon über ne Bande die extrem 449 00:30:37,320 --> 00:30:40,960 gefährlich ist. Ja, also die auch vor Mord nicht 450 00:30:40,960 --> 00:30:43,440 zurückschlägt. Ne, also ja. 451 00:30:43,440 --> 00:30:47,520 Ehrlicherweise also, selbst wenn er nicht der der große Kopf der 452 00:30:47,520 --> 00:30:50,880 Shiny Hunters ist. Trotzdem ist es ja jemand, der. 453 00:30:52,160 --> 00:30:55,520 Hoffentlich offensichtlich 2 Morde versucht hat in Auftrag zu 454 00:30:55,520 --> 00:30:57,360 geben oder in Auftrag gegeben hat. 455 00:30:57,760 --> 00:31:00,240 Ob die durchgeführt worden ist? Keine Ahnung, dass die 456 00:31:00,240 --> 00:31:03,040 Informationen noch zu gering, also das ist zumindestens das, 457 00:31:03,040 --> 00:31:05,000 was die Ermittlungsbehörden gesagt haben. 458 00:31:05,920 --> 00:31:12,160 Ja und während ihrer Chefin in hinter Gittern in u Haft sitzt, 459 00:31:12,640 --> 00:31:18,080 ja hat die Gruppe dann das FBI angegriffen und war auch n Grund 460 00:31:18,080 --> 00:31:23,920 warum dann der FBI Chef? Brad Latherman hat dann in einer 461 00:31:24,000 --> 00:31:27,120 Videobotschaft den den Mitgliedern gedroht. 462 00:31:27,120 --> 00:31:30,440 Wir wissen, wo wir euch finden, so sollen sie sich überlegen, 463 00:31:30,440 --> 00:31:38,360 was sie machen, so, so, jetzt jetzt, jetzt kommen wir aber zum 464 00:31:38,360 --> 00:31:43,680 Allerbesten, der der der Story so also Shiny Hunters Hack, das 465 00:31:43,680 --> 00:31:48,240 Portal Ihr Chef ist, ist in Gefangenschaft die angebliche 466 00:31:48,240 --> 00:31:51,520 Geschäft so. Was fordert denn die 467 00:31:51,520 --> 00:31:54,480 Erpressungsgruppe, also die Shiny Hunter jetzt vom FBI? 468 00:31:54,960 --> 00:31:56,640 Ja, wahrscheinlich. Also seine Freilassung 469 00:31:56,640 --> 00:31:58,880 vermutlich ja nicht. Ich glaub, das können die gar 470 00:31:58,880 --> 00:32:02,480 nicht, wobei versuchen kann man es aber vermutlich Kohle ohne 471 00:32:02,480 --> 00:32:07,200 Ende mein das sind ja wirklich sensible Daten, richtig? 472 00:32:07,520 --> 00:32:09,600 Sie wollen aber gar kein Geld. Wie? 473 00:32:10,400 --> 00:32:15,120 Sie wollen eine Richtigstellung? Das ja, und zwar? 474 00:32:16,160 --> 00:32:18,000 Jetzt fragst du, was ist eine Richtigstellung? 475 00:32:18,000 --> 00:32:19,680 Sie wollen eine Gegendarstellung, eine 476 00:32:19,680 --> 00:32:25,480 offizielle Gegendarstellung in wie in der Tageszeitung, jetzt 477 00:32:25,480 --> 00:32:28,720 fragt man sich, was ist das für ein Blödsinn, was will, was will 478 00:32:28,720 --> 00:32:31,520 denn eine Gruppe wie die Shiny Hunter eine Gegendarstellung 479 00:32:31,520 --> 00:32:34,120 haben? Was hat denn das FBI gesagt, 480 00:32:34,120 --> 00:32:38,800 dass die Shiny Hunter so nen Hack durchführen, nur weil das 481 00:32:38,800 --> 00:32:45,640 richtig gestellt werden sollte? Also, und zwar hat das FBI im 482 00:32:45,640 --> 00:32:48,320 Mai einen Sicherheitsbericht veröffentlicht. 483 00:32:50,160 --> 00:32:54,400 Darin beschuldigt das FBI die Chinese Hunter unter anderem, 484 00:32:54,400 --> 00:32:59,160 Opfer und Angehörige mit Anrufen zu bedrohen, übertriebene 485 00:32:59,160 --> 00:33:02,560 Behauptungen aufzustellen, Swatting zu betreiben und 486 00:33:02,560 --> 00:33:07,600 sextorschen, also in Erpressung mit intimen Fotos einzusetzen. 487 00:33:08,240 --> 00:33:10,720 Und soweit würden die Shiny Hunters nie gehen. 488 00:33:10,880 --> 00:33:14,080 Und das kratzt am Ego der Shiny Hunters. 489 00:33:14,120 --> 00:33:19,520 Ist verrückt. Ja, also immer Erpresser 490 00:33:19,520 --> 00:33:24,080 schreiben von den Shiny Hunters steht drin, wir sind keine 491 00:33:24,080 --> 00:33:28,320 Gruppe, die Sextotions betreibt, wir machen kein Swotting und wir 492 00:33:28,320 --> 00:33:32,960 bedrohen auch keine Familien und deswegen möchten sie, dass das 493 00:33:32,960 --> 00:33:37,280 FBI den Bericht. Vom Netz nimmt oder es offiziell 494 00:33:37,280 --> 00:33:43,760 korrigieren lässt. Ja, das heißt, die haben das FBI 495 00:33:43,760 --> 00:33:49,280 gehackt, um ihr Markenimage zu verteidigen. 496 00:33:50,000 --> 00:33:51,560 Also sowas kann man sich eigentlich ja gar nicht 497 00:33:51,560 --> 00:33:54,080 ausdenken. Ne, da bin ich jetzt etwas etwas 498 00:33:54,080 --> 00:33:59,040 platt. Ja, also hä ja. 499 00:33:59,760 --> 00:34:04,320 Also Sie haben dem dem FBI ne Woche Frist gegeben. 500 00:34:05,120 --> 00:34:07,680 Eine, also eine Woche gefrist, die ist abgelaufen. 501 00:34:08,639 --> 00:34:12,000 Die Shiny Hunters haben sich dann kurz vorm Ablauf der der 502 00:34:12,000 --> 00:34:13,920 Frist haben sie sich gemeldet haben gesagt, Ach, wir wollten 503 00:34:13,920 --> 00:34:18,000 uns sowieso die FBI Daten nie veröffentlichen oder verkaufen, 504 00:34:18,080 --> 00:34:21,120 das Ganze war auch gar keine Erpressung sondern lediglich 505 00:34:21,120 --> 00:34:24,560 eine Marketingkampagne um Aufmerksamkeit gegen die falsche 506 00:34:24,560 --> 00:34:29,360 Information des FBIS zu generieren, was was? 507 00:34:30,880 --> 00:34:36,719 Ja, ja, man man muss sich das vorstellen im im im Cyberraum. 508 00:34:37,600 --> 00:34:42,320 Das Image einer, ich sag mal, es ist ja strafbare Tätigkeiten wie 509 00:34:42,320 --> 00:34:46,480 sie haben ja aber das Wichtigste, um was es halt geht, 510 00:34:46,639 --> 00:34:52,800 ist einfach die Reputation dieser Gruppen, ja, die wollen 511 00:34:52,800 --> 00:34:58,560 einfach, das ist ein gewisses, ja ich sag mal n gewisses. 512 00:34:59,520 --> 00:35:02,880 Ansehen haben ne das natürlich schon wissen. 513 00:35:02,880 --> 00:35:06,000 OK das ist ne gefährliche Gruppe, aber sie wollen auch 514 00:35:06,000 --> 00:35:10,800 verkaufen, dass die eben wenn sie n haben und es wird Geld 515 00:35:10,800 --> 00:35:16,480 bezahlt, dass die dann eben auch alles wiederherstellen, dass sie 516 00:35:16,480 --> 00:35:22,400 dann keine Ahnung ne, also auch freundlich tun im Prinzip so und 517 00:35:22,400 --> 00:35:24,480 alles was halt dagegen schießt ne mit. 518 00:35:25,040 --> 00:35:29,040 Mit direkten Verbrechen und sextorischen Bedrohungen, also 519 00:35:29,040 --> 00:35:32,720 tiefergehende Bedrohungen. Das das ist halt einfach 520 00:35:32,720 --> 00:35:34,320 schlecht für deren Marketing und. 521 00:35:34,560 --> 00:35:37,160 Das. Wird halt die Opfer dazu halt 522 00:35:37,160 --> 00:35:39,040 bringen, dass sie erst recht nicht bezahlen. 523 00:35:39,280 --> 00:35:43,840 Ja, weil das ja ne ne schlimme, ganz schlimme Gruppe ist und 524 00:35:43,840 --> 00:35:46,560 deswegen wollen sie eben das haben. 525 00:35:46,960 --> 00:35:51,240 So aber glaubst du denen, glaubst du denen jetzt, dass die 526 00:35:51,280 --> 00:35:53,040 die Daten nicht veröffentlicht werden? 527 00:35:55,440 --> 00:35:58,160 Ich glaube, wenn sie sie jetzt veröffentlichen würden, würden 528 00:35:58,160 --> 00:36:01,920 Sie genau den um das das das Gegenteil bekommen, was sie 529 00:36:01,920 --> 00:36:04,560 eigentlich wollen. Sie wollen ja, dass die Leute 530 00:36:04,560 --> 00:36:07,960 ihnen glauben, Geld zahlen und dann die Daten wiederbekommen, 531 00:36:07,960 --> 00:36:12,960 also für die ist ja Reputation in dem Fall dann schon wichtig 532 00:36:13,280 --> 00:36:18,000 und wenn sie jetzt das bekommen, was sie wollen und die Daten 533 00:36:18,000 --> 00:36:20,720 werden veröffentlicht, trotzdem veröffentlicht, ja dann ist es 534 00:36:20,720 --> 00:36:22,400 sehr wieder schlecht für die Reputation. 535 00:36:22,880 --> 00:36:25,120 Na ja. Also ich mein, Sie haben ja 536 00:36:25,120 --> 00:36:27,480 schon was veröffentlicht, sie haben ja schon 5000 datensätzen 537 00:36:27,480 --> 00:36:29,120 veröffentlicht. Ja gut, aber das ist ja jetzt 538 00:36:29,120 --> 00:36:32,640 nichts Ungewöhnliches, weil die müssen ja auch n Stück n Stück 539 00:36:32,640 --> 00:36:36,480 weit beweisen, dass es echte. Datensätze sind genau und ich 540 00:36:36,480 --> 00:36:39,440 glaube auch, dass sie wahrscheinlich von anderen 541 00:36:39,440 --> 00:36:43,840 Behörden, von anderen Ländern, wenn die Wissen, das sind im 542 00:36:43,840 --> 00:36:48,480 Darknet, Informationen zu holen, dass die sehr viel Geld dafür 543 00:36:48,640 --> 00:36:51,920 ausgeben werden. Du meinst das ist n privater, 544 00:36:52,040 --> 00:36:57,040 also n privater Käufer, aber halt jemand gibt der ihnen genug 545 00:36:57,040 --> 00:36:58,880 Geld dafür bietet. Ja, das kann natürlich auch 546 00:36:58,880 --> 00:37:03,920 sein, ja, aber ich glaub auch das sie haben ja auch wenn das 547 00:37:03,920 --> 00:37:06,080 rauskommt haben sie ja dann trotzdem das Problem warum 548 00:37:06,080 --> 00:37:08,640 sollten in Zukunft Opfer Ihnen zahlen? 549 00:37:08,960 --> 00:37:10,560 Es bringt ja offensichtlich nichts. 550 00:37:11,200 --> 00:37:15,440 Das ist, das ist die Frage. Ich mein, Sie sind immerhin. 551 00:37:16,600 --> 00:37:19,440 Also man, man schätzt ja, dass der Erfolgsfaktor trotzdem sehr 552 00:37:19,440 --> 00:37:21,760 hoch ist von Unternehmen, die bezahlen. 553 00:37:22,000 --> 00:37:25,520 Ja, ja. Ja gut. 554 00:37:26,880 --> 00:37:31,760 Und das mit dem Ego ist halt auch n Thema, nämlich die Shiny 555 00:37:31,760 --> 00:37:35,680 Hunter haben nämlich noch einen 2.2. 556 00:37:35,680 --> 00:37:42,400 Hack, sagen wir mal so gegen eine andere Ransomware Gruppe 557 00:37:42,720 --> 00:37:45,360 und zwar Klopp hast du auch Stichlich schon mal gehört? 558 00:37:45,440 --> 00:37:49,360 Ja, ja. Ja, und zwar geht es hier 559 00:37:49,360 --> 00:37:53,280 nämlich auch um internen Streit von den Shinys, Huntern mit mit 560 00:37:53,280 --> 00:37:57,360 Klopp, da geht es um wohl lösegelder, Bitcoins und so 561 00:37:57,360 --> 00:37:59,680 weiter. Nicht den Bundestrainer Jürgen 562 00:37:59,680 --> 00:38:01,600 Klopp, sondern die Hackinggruppe Klopp. 563 00:38:02,080 --> 00:38:05,120 Die Hackinggruppe mit C geschrieben mir vielleicht ganz 564 00:38:05,120 --> 00:38:11,120 ganz wichtig zu sagen, ja, und zwar die Shinys Hunter sind im 565 00:38:11,120 --> 00:38:15,600 Prinzip für diese Oracle People Soft Hack sind die sehr bekannt. 566 00:38:16,160 --> 00:38:19,760 So auch. Bekannt und Klopp hat sich wohl 567 00:38:20,400 --> 00:38:24,400 diese Schwachstelle zu eigen gemacht und hat sie relativ 568 00:38:24,400 --> 00:38:28,560 schlampig halt deren Angriffsmethoden Halt 569 00:38:28,560 --> 00:38:35,040 mitverwendet und Shiny Hunters wollten dafür halt auch von dem 570 00:38:35,040 --> 00:38:38,800 Erfolg, was die ja im Prinzip gemacht haben halt auch was 571 00:38:38,800 --> 00:38:42,320 sehen, hat Klopp nicht eingesehen, dementsprechend hat 572 00:38:42,320 --> 00:38:45,680 die Shiny Hunters. Ist in die internen Systeme der 573 00:38:45,680 --> 00:38:49,000 Klop eingedrungen, in das komplette Backbone. 574 00:38:49,000 --> 00:38:53,200 Jetzt würd man sagen, OK, Hacker würden vielleicht ihr eigenes 575 00:38:53,200 --> 00:38:59,840 Backbone vielleicht besser schützen, ja, Sie haben auf 576 00:38:59,840 --> 00:39:04,480 jeden Fall auf, also man weiß es nicht hundertprozentig, aber man 577 00:39:04,480 --> 00:39:09,280 geht davon aus, dass dass die auf sehr vielen Zugriffe 578 00:39:09,280 --> 00:39:13,200 bekommen haben bei Klop auf. Verhandlungen, auf wen sie 579 00:39:13,200 --> 00:39:15,680 erpresst haben, wieviel Sie erpresst haben. 580 00:39:15,680 --> 00:39:22,800 Sie haben auf Quellcodes von deren Software, die Sie 581 00:39:22,800 --> 00:39:26,080 einsetzen, Zugriff bekommen und so weiter also die haben das 582 00:39:26,080 --> 00:39:29,440 komplette Plattform bei der Klopp selbst halt auch gehackt. 583 00:39:29,680 --> 00:39:35,200 Ja das einfach nur weil sie eben von dem Erfolg von Klopp 584 00:39:35,360 --> 00:39:38,480 mitverdienen wollten, weil sie sagen wir sind doch derjenige 585 00:39:38,480 --> 00:39:42,800 gewesen, der. Die das ja, das publiziert 586 00:39:42,800 --> 00:39:44,200 haben, oder die, die die ersten gewesen. 587 00:39:44,200 --> 00:39:46,560 Sind ne, das hat was von Patentrecht. 588 00:39:47,200 --> 00:39:49,920 Ja, hat was von Patentrecht. Könnte man, könnte man fast 589 00:39:49,920 --> 00:39:53,040 schon so sagen, ja, aber wie gesagt, Shiny Hunters, sehr 590 00:39:53,040 --> 00:40:00,560 aktiv, sehr umtriebig und denen ist es ganz egal wen es trifft, 591 00:40:00,880 --> 00:40:05,920 denen geht es um Geld und um Ehre und die machen auch vom FBI 592 00:40:05,920 --> 00:40:08,880 oder von anderen rentsomwell Gruppen. 593 00:40:09,680 --> 00:40:11,600 Nicht. Nicht, ja. 594 00:40:11,920 --> 00:40:15,040 Nicht halt, die Halt gehen da einfach rein. 595 00:40:15,360 --> 00:40:18,520 Ich glaube die Shiny Hunters sind also du willst dich sowieso 596 00:40:18,520 --> 00:40:22,640 mit keiner mit keiner Hacking Gruppe anlegen nein, aber ich 597 00:40:22,640 --> 00:40:26,320 würde schon behaupten die Shiny Hunters sind schon boah also mit 598 00:40:26,320 --> 00:40:29,840 denen will ich also mit denen noch weniger als sowieso schon, 599 00:40:30,400 --> 00:40:32,720 die kennen glaube ich wirklich gar kein Erbarmen. 600 00:40:34,000 --> 00:40:37,840 Ja und? Was jetzt noch das Fazit raus, 601 00:40:37,840 --> 00:40:40,240 was jeder vielleicht sich mitnehmen kann. 602 00:40:41,760 --> 00:40:47,840 Ne Firewall Regel hilft nicht nen also nicht davor zu patchen. 603 00:40:48,160 --> 00:40:52,800 Ja also bekannte Lücken halt auch zu schließen, den erwischt 604 00:40:52,800 --> 00:40:57,920 es einfach beim nächsten Mal und guckt euch vor allem eure HR und 605 00:40:57,920 --> 00:41:01,920 Bewerbungsportale genauer an, die im öffentlichen Netz hängen. 606 00:41:02,480 --> 00:41:06,240 Wer hat darauf Zugriff? Welche Daten hängen dahinter? 607 00:41:06,240 --> 00:41:09,800 Ne Mitarbeiterdatenbanken sollten vielleicht nicht direkt 608 00:41:09,800 --> 00:41:13,680 damit verbunden sein. Ja, also ich mein dafür. 609 00:41:13,840 --> 00:41:18,960 Wenn man sich mit kennt, sich auch mit mit Netzwerk Zonen aus 610 00:41:18,960 --> 00:41:22,160 und ich bin mir sicher das FBI macht es auch so wenn ihr sowas 611 00:41:22,160 --> 00:41:24,960 habt, dann baut eine demilitarisierte Zone wo ihr 612 00:41:24,960 --> 00:41:27,840 solche Systeme reinstellen könnt und versucht die da so gut wie 613 00:41:27,840 --> 00:41:29,600 möglich zu isolieren. Ja. 614 00:41:30,040 --> 00:41:33,440 Und vor allem auch neue und alte Bewerberdaten voneinander zu 615 00:41:33,440 --> 00:41:36,400 trennen, kann ich einfach nur sagen, Speicher ist günstig, ich 616 00:41:36,400 --> 00:41:39,760 Speicher einfach alles. Ja, ja. 617 00:41:39,840 --> 00:41:43,240 Ja, ja, genau. Nur die aktiven Bewerberdaten, 618 00:41:43,240 --> 00:41:46,720 also schon, die wären schlimm genug, aber zumindestens nicht 619 00:41:46,720 --> 00:41:51,440 die Legacy Bewerberdaten der letzten 300 Jahre FBI. 620 00:41:52,400 --> 00:41:56,640 Ja, und es ist nur das FBIFBI. Muss wahrscheinlich keinen. 621 00:41:57,200 --> 00:42:00,480 Ja, keine Beträge bezahlen für das Leck. 622 00:42:01,440 --> 00:42:06,560 Ein deutsches Unternehmen könnte es bei so einem Leck auf jeden 623 00:42:06,560 --> 00:42:08,240 Fall. Schlimmer treffen, ja. 624 00:42:08,400 --> 00:42:11,560 Schlimmer treffen, vor allem nicht nicht nur, um die Daten 625 00:42:11,560 --> 00:42:15,480 wieder zu bekommen, sondern auch die Datenschutzverstöße, die da 626 00:42:15,480 --> 00:42:18,560 mit eingehen. Deswegen macht man sich damit am 627 00:42:18,560 --> 00:42:24,480 besten genau vertraut, was liegt wo, was muss wie geschützt 628 00:42:24,480 --> 00:42:26,520 werden. Und auch alte Daten sind 629 00:42:26,520 --> 00:42:31,040 schützenswert. Und ja, ich glaub damit raucht 630 00:42:31,680 --> 00:42:33,360 mir der Kopf dir wahrscheinlich auch. 631 00:42:33,360 --> 00:42:36,240 Ja, ja, ja, wirklich. Also Getränk ist schon länger 632 00:42:36,400 --> 00:42:38,400 schon längst leer. Das ist schon lang leer. 633 00:42:38,800 --> 00:42:41,840 Kopf leer, Getränk leer. Und damit. 634 00:42:42,000 --> 00:42:46,560 Machen wir schlafen. Genau damit gehen gehen wir 635 00:42:46,560 --> 00:42:50,880 jetzt schlafen und wir hören uns. 636 00:42:51,440 --> 00:42:53,440 Wahrscheinlich in 2 Wochen wieder. 637 00:42:53,440 --> 00:42:55,840 Genau dann hoffen wir mal, dass da wieder spannende Sachen 638 00:42:55,840 --> 00:42:59,040 passiert sind. Dann habt ne schöne Restwoche, 639 00:42:59,280 --> 00:43:03,200 bleibt sicher und auch n bisschen paranoid, aber nicht zu 640 00:43:03,200 --> 00:43:06,480 sehr, aber doch n bisschen bis dann tschüss.