Wer kontrolliert eigentlich Ihre KI?

00:00:00: Bei Project Lastwing geht es darum, Sicherheitskonzepte pro aktive Test letztendlich durchzuführen.

00:00:05: Es ist also wirklich AI kontrolliert.

00:00:07: Man hat herausgefunden dass man dort Sicherheitslücken jahre oder zehn Jahre, fünfzehn Jahre zurück aufdecken konnte.

00:00:20: Willkommen zu den IT-Komplizen!

00:00:22: Der Podcast von ComStore mit Experten für euer erfolgreiches Cisco-Geschäft.

00:00:26: Wir machen mit euch gemeinsame Cisco Sache.

00:00:30: Hallo und herzlich willkommen zurück bei den IT-Komplizen.

00:00:33: Und das Schöne bei dem Konzept IT-Complizen ist, dass man dieselben Leute manchmal hoffentlich häufiger widersieht – so wie dich Jörg!

00:00:40: Hi Jörgg!

00:00:41: Hi Peter!

00:00:41: JörG

00:00:42: die erste Folge, die wir gemeinsam gemacht haben hat vielleicht nicht jeder mitbekommen.

00:00:45: Magst du kurz nochmal deine Rolle bei Cisco Deutschland beschreiben?

00:00:48: Vielen Dank für die Einladung, Peter, orientiert zu sein.

00:00:49: Freut mich sehr.

00:00:50: Mein Name Jörgs Schulz.

00:00:51: bin Systemarchitekt und mache den Automation Programmability Lead in Deutschland.

00:00:56: Ich bin jetzt schon seit sieben Jahren bei Cisco Und ja, freue mich halt wieder mit dabei zu sein.

00:01:01: Mich

00:01:01: freut total, dass du extra dafür angereist bist.

00:01:03: Das sind ja auch zwei Stunden Bahnstrecke zwischen uns beiden und ich find's total toll, dass Du heute da bist!

00:01:08: Wir wollen heute mal über das Thema künstliche Intelligenz- und Automatisierung, Programmabilität im weitesten Sinne sprechen.

00:01:15: Was mich da immer interessiert und was in vielen Gesprächen auf den Tisch kommt ist... Das Thema Sicherheit, also Oberbegriff.

00:01:21: Und wenn man in der IT-Branche unterwegs ist schon seit längerer Zeit.

00:01:25: dann denkt man bei IT Security meistens es gibt irgendwann eine Sicherheitslücke dafür gibt's dann irgendwann ein Patch da muss man irgendeinen Update installieren und das ist halt so ein ständig rollierender Prozess.

00:01:35: aber an dem kann man sich orientieren.

00:01:36: Also man weiß dass die Sicherheitslücke ich habe zu patchen Ich hab was zu updaten Da gibts irgendwie Virus der gerade durch die Welt geistert da kann ich mich drauf vorbereiten.

00:01:45: Das ist in AI nicht so ganz identisch richtig?

00:01:49: Nicht ganz, es gibt natürlich Dinge die man bei AI berücksichtigen muss.

00:01:54: Aber du hast recht, ne?

00:01:55: Ist ein Art Kreislauf und in dem Fall sprechen wir eigentlich von der Schwachstellen-Datenbank.

00:01:59: Ja genau!

00:02:00: Die sich ständig erweitern

00:02:01: kann.

00:02:01: Und das ist bei AI bisher nicht ganz so wirklich vorhanden.

00:02:04: und ja deshalb gibt's einfach einen Grund Wir müssen einfach wieder über Sicherheitskonzepte sprechen im Moment und die Nutzung von AI auch nochmal neu denken

00:02:14: Jetzt wenn du diesen rollierenden Prozess also das Suchens von Schwachstellen, das Lösen von solchen Problemen nicht hast.

00:02:20: Was könnte ein Ansatz in der AI sein?

00:02:22: Wie so wie so ein Konstrukt aussieht?

00:02:23: weil vor der technischen Umsetzung gibt es ja erst mal eine Richtlinie irgendwie einen Plan wie man das machen will.

00:02:30: Wie könnt ihr da aussehen?

00:02:31: Standards glaube ich ist hier das Stichwort und Standards.

00:02:35: ganz einfach an einem Beispiel Flughafen Ansturm von Menschen.

00:02:39: die Frage ist immer an beiden Grad bei Urlaubszeit, wie kann man diesen Fluss kontrollieren?

00:02:43: und wenn wir uns jetzt einfach mal das Bild reinversetzen.

00:02:46: Wir sind am Flughafen, die haben gewisse Regeln, die umgesetzt werden dort.

00:02:49: Ja, Gepäckkontrolle, Passkontrolle, Personenkontrolle – und das ist ein weltweiter Standard!

00:02:55: Es funktioniert eigentlich jedem Flughafengleich.

00:02:57: und in Bezug auf AI wäre das genau so ein Ding.

00:03:00: Standards?

00:03:01: Wir sagen dazu integriertes KI-Sicherheits- und Schutzkonzept setzt die deutsche Übersetzung dazu, ansonsten Integrated AI Security and Safety Framework.

00:03:10: Aber wir brauchen ein Framework um da loszulegen

00:03:12: können.".

00:03:13: Genau und das Framework überlegt ihr euch jetzt oder würdest du sagen es wird gemeinsam mit Branchen Kollegen entwickelt?

00:03:20: Die Frage ist halt welches Framework verwende ich als Kunde?

00:03:23: also lege ich mich da fest oder bin ich der Flexibel?

00:03:25: Also bei Frameworks generell Standards gibt es natürlich Konsortien, die sich da schon seit längerer Zeit damit beschäftigen.

00:03:31: OWASP, ATLAS.

00:03:32: Ich glaube in der Folge zuvor mit Faulk hat man schon über diese Konzepte gesprochen.

00:03:38: Grundsätzlich ist das ein Ökosystem, den wir betrachten müssen und in dem Fall KI-Sicherheit ist eine Sache, die wir nochmal neu überdenken.

00:03:46: In dem Falle wenn wir natürlich im Nutzen alltäglich damit umgehen.

00:03:50: Und ich weiß ja nicht vielleicht hast du schon mal von dem Projekt Glasswing gehört?

00:03:54: Nee, also tatsächlich hab ich von Project Glasswing noch nie was gehört.

00:03:57: Kannst du das kurz erklären?

00:03:58: Sehr gern!

00:03:59: Am Cisco wurde als Grünungsmitglied sozusagen mit in die Initiative aufgenommen und bei Project Glasswind geht's eigentlich darum Sicherheitskonzepte pro aktive Test letztendlich durchzuführen.

00:04:10: Das heißt also ein Trophy-Kartenmodell rausgebracht dass sie jetzt nicht veröffentlicht habe und haben gesagt, okay weil sie sozusagen über AI Sicherheitslücken aufdecken können.

00:04:20: Es ist also wirklich AI kontrolliert in dem Moment.

00:04:25: Gesagt wir nehmen uns einen gewissen Konsortium, größere Firmen und Cisco ist sozusagen damit dabei um das zu verbessern dass AI Security sozusagen auch später noch weiterhin mit dabei sein kann.

00:04:38: Okay nochmal kurz nachgefragt.

00:04:39: also Project Glasswing konzentriert sich darauf Language Models sicher zu machen.

00:04:45: Okay, und dafür Standards zu setzen wie man auch andere Language Modells absichern kann.

00:04:50: okay vielleicht

00:04:50: noch kurz sagen so zu diesem Projekt am Sicherheitsmechanismen haben natürlich eine gewisse Zeitfaktor da geht es wirklich zurück für mehrere Jahre.

00:05:00: also sprich man hat dieses Modell Mythos rausgefunden dass man das

00:05:04: ist das Modell was noch nicht auf dem Markt

00:05:05: genau Man hat herausgefunden, dass man dort Sicherheitslügten jahre also zehn Jahre, fünfzehn Jahre zurück aufdecken konnte.

00:05:12: Und das ist natürlich ein wichtiger Faktor, den man jetzt nochmal betrachten muss.

00:05:16: Ja absolut!

00:05:17: Vor allem weil ich mir auch immer überlege... Also wir haben jetzt, du hast es schon gesagt, Language Models haben wir jetzt abgeschlossen.

00:05:22: Jetzt kann ich ja Kleinere Language Modellen oder sonst irgendwas kann ich ja morgen app entwickeln.

00:05:27: Oder übermorgen und die kann ich dann in meine Firma einbringen, die können anfangen zu nutzen.

00:05:32: da gibt's so viele Themen.

00:05:34: eigentlich steigt dieses Risiko ja exponentiell jeden Tag mit jeder neuen entwickelten Anwendung.

00:05:40: der Horizont ist mir noch nicht klar als vielleicht auch dem Zuhörer nicht wie man diesen Horizont irgendwie greifbar machen kann.

00:05:47: absolut das Sicherheitsrisiko für Firmen wie du sagst ist exportenzial aber auch für uns und auch für die Hörern höheren.

00:05:53: Wir werden zur Zielschreib in dem Moment, wenn wir Apps entwickeln.

00:05:57: Je mehr Apps entwickelt werden über WIP-Coding, desto mehr Sicherheitslücken entstehen und da haben wir als Unternehmen natürlich auch als Cisco Verpflichtungen gegenüber den Mitarbeitern gefahren.

00:06:07: Sprich wir müssen die Mitarbeiter davon schützen von außen und gleichzeitig auch die Möglichkeit haben neue Technologien zu ermöglichen sich einzuarbeiten.

00:06:16: Und ich glaube da liegt sozusagen die Kunst und ich sage immer gern dazu Put AI into Work at work.

00:06:22: Also um das nochmal zusammenzufassen, damit es für jeden verständlich ist.

00:06:26: Entweder ich lass jeden tun und lassen was er will mit dem Thema dass sich das nicht mehr greifen und nicht mehr kontrollieren kann oder ich sorge dafür, dass sich AI sicher als Werkzeugkasten den Mitarbeiter zur Verfügung stellen kann, dass der alles tun kann wasser will aber halt in den Standards- und Rahmenbedingungen die ich vorgegeben habe indem Entwicklungsumgebungen oder was auch immer vordefinieren, denen er sich austoben kann.

00:06:50: Er dann aber vielleicht halt nicht den latest und greatest aus dem web irgendwie benutzen kann oder von GitHub oder so sondern aber halt das nutzt was er braucht Aber halt auch sicher nutzen kann.

00:07:00: ist es so grob die idee dahinter?

00:07:01: oder also

00:07:02: sozusagen war

00:07:03: ein

00:07:03: korb der man nutzen kann?

00:07:05: Und auf der anderen seite geht's ja auch wirklich um die echtheit zu überprüfen.

00:07:08: ne mir zum beispiel ich denke du bist jpbt use.

00:07:11: Ja, hast du eine Pro-Linsens?

00:07:13: Wahrscheinlich ja.

00:07:14: Viele haben ne Pro-linsens und da geht's ja darum.

00:07:16: Wir haben einen gewissen Moment wo wir den Chatchi-Petit einfach nutzen können und das Vertrauen wenn dort ein Link auftaucht in Chatchipetit im Dokument ist wir wahrscheinlich einfach mal überprüfen.

00:07:25: dort drauf zu klicken ist natürlich einfacher wie wenn jetzt zum Beispiel ich dir eine E-Mail schreibe und wir über Fishing-E-Mails nachdenken.

00:07:31: Ja volling in der Geschwindigkeit, denn der RL funktioniert ist ja sagen wir mal... Die Sicherheitslücke sitzt ja vor dem Rechner, wenn wir ehrlich sind.

00:07:39: Weil der Rechler hat kein Problem mit Geschwindigkeit.

00:07:41: die Frage ist wie lang kann ich?

00:07:44: Mit dem also.

00:07:45: Erwärmestraining sind in IT-Security ein wichtiges Thema.

00:07:48: Erwären es sehr gut aber wenn sie so schnell abläuft dass sich gar nicht mehr mitbekomme das ich jetzt auf den Link geklickt habe denen mir einen Bot zurückgegeben hat und mich gar keine Zeit hatte zu kontrollieren muss das ja vorher von was anderem kontrolliert werden.

00:07:59: absolut jeder kann ja des theoretisches tuls seiner Wahl benutzen.

00:08:04: Trotzdem haben auch verschiedene standardisierte IT-Tools jetzt integrierte AI.

00:08:11: Wie kann ich denn die auch noch begrenzen?

00:08:13: Weil, ich könnte jetzt theoretisch... Gibt ja so Small-Language-Models oder so.

00:08:16: Ich könnt da ja abzweigen und das Ding was fragen zu dem es eigentlich nicht ausgelegt ist und dann könnte es vielleicht auch noch irgendwie lustig fantasieren!

00:08:23: Das kann ich mir als Unternehmen überhaupt erst mal einen Überblick darüber verschaffen, wo überall AI am Laufen ist.

00:08:29: Auch wenn die Anwendung sowie JetGPT jetzt nicht offensichtlich AI ist sondern vielleicht eher inoffiziell.

00:08:35: Also sprichst einen guten Punkt dabei an.

00:08:37: Man redet da gern von Shadow AI und ich muss eigentlich damit beginnen, zu sehen welche Ausmaßung eine Technologie letztendlich heutzutage auch nutzen kann und dafür braucht man Visibilität.

00:08:47: für diese Shadow AI brauchen wir Visibilität.

00:08:50: Wir reden auch gerne von Sichtbarkeit und ihr möcht Licht ins Dunkel bringen

00:08:54: Und da kannst du es doch helfen?

00:08:56: Absolut!

00:08:56: Wir sind dabei da und vielleicht müssen wir einfach nochmal ein Schritt zurückgehen.

00:09:00: das Sicherheitsrisiko bei so LMM-Modellen ist nicht das Modell selbst sondern eigentlich, wie du sagst, das unkontrollierte Verhalten des Users.

00:09:09: Das Menschen.

00:09:10: und wie wir gerade besprochen haben, Shadow AI entwickelt sich als große Bedrohung und Mitarbeiter die autorisierte Tools nutzen, verwenden sensible Daten, die sie da hochladen.

00:09:19: Und da ist halt eine Betrachtung von Ende zu Ende wichtig.

00:09:23: Wir machen das teilweise mit einem Agentic AI Security Framework und das ist eine Kombination Observability mit Splunk, vielleicht Agenten basiert mit Duo, Secure Access um den Zugang zu sichern und dann als Königsdisziplin sage ich hier mal AI Defense.

00:09:38: Und das ist da wo wir uns sozusagen gegen diese Dinge schützen können.

00:09:41: Genau, im Bereich AI-Defense habe ich jetzt gerade erst gehört.

00:09:44: Er geht ja auch Partnerschaften mit KI Unternehmen ein wo er mit denen gemeinsam Konzept entwickelt wie man mit AI-dfens deren Produkt sicherer und stabiler machen kann.

00:09:53: während die die Innovation treiben macht ihr das ganze sicher.

00:09:56: also das hab' ich jetzt irgendwie mitbekommen.

00:09:58: ganz aktuelles Announcement Google Cloud AI- Defense und Google Cloud arbeiten zusammen.

00:10:03: wir arbeiten mit AWS Bedrockt zusammen und selbst mit Hackingface ist AI defense sozusagen um Prüfen der LMM Models mit dabei.

00:10:11: Okay, jetzt waren wir vorher bei dem Thema... Ich muss mir erstmal eine Visibilität in dieser Shadow AI machen.

00:10:15: Ich muss erst mal verstehen was ich da alles habe wie ich das beeinfluse.

00:10:19: Ich muß auch die Business Cases dahinter verstehen.

00:10:21: warum gibt's es überhaupt?

00:10:22: Warum benutzen ist die Leute genauso wie bei Software Usage ja auch.

00:10:25: aber was mache ich denn jetzt mit der Info?

00:10:27: okay!

00:10:28: Ich hab' jetzt rausgefunden, ich hab' dreißig verschiedene LLMs am Laufen Mal in einer Fachabteilung, mal irgendwie in der Cloud, mal irgendwas und vierzig Chatbots.

00:10:35: Was machen wir jetzt mit den Infos?

00:10:36: Ich

00:10:36: glaub', du hast noch eins vergessen Agents.

00:10:39: Ja, das habe ich noch gar nicht erwähnt.

00:10:41: Ich wollte nicht den Multifigator reinbringen.

00:10:43: Genau, aber diese sind natürlich wichtig.

00:10:45: und glaubt genau da setzen Frameworks ein zur Orientierung.

00:10:48: Standards hat mir darüber gesprochen.

00:10:50: LML Anwendungen Maschinen-Learning Das sind die Dinge wo ein Framework natürlich hilft.

00:10:55: Und wenn wir nochmal zurückgehen weil du sagst mit der M-Programmierung Sie Sicherheitsfirma Unternehmen heutzutage nicht drum herum kommen sich an dem Framework zu orientieren Und das gibt gleichzeitig Schutz und da wollen wir mit rein.

00:11:08: Wir als Cisco haben dort so eine Art Leaderboard letztendlich entwickelt, aber ich denke, da kommen wir nachher nochmal kurz drauf was das im Security Focus Nummer bedeutet.

00:11:16: Also dieses Framework von dem, den man spricht, was sozusagen vielleicht nehmen wir mal einen anderen Begriff dafür also der Nutzungsrahmen von der AI ist zusammen mit dem Thema AI Governance führt ja tatsächlich zu einer... umfassenden KI-Sicherheitsstrategie, wenn man so möchte.

00:11:31: Meinst du das lässt sich auch so konsequent umsetzen oder sagst du es ist eigentlich wie ein Sack Flöhehüten?

00:11:38: Wenn ich fünf gefangen habe sind wieder acht unterwegs und wir hatten das ja eigentlich auch in der vorigen Folge schon mal grob angesprochen dass das halt sich so schnell entwickelt und halt in alle Dimensionen entwickelt.

00:11:48: und die Frage kann die IT überhaupt noch mithalten.

00:11:51: Ich glaube schon allein die Schuldfrage zu klären Wenn was dementsprechend nicht so funktioniert, muss man vorher bestimmen.

00:11:57: Und da hilft ein Framework ebenfalls um die Verantwortlichkeit zu steuern im Falle wenn etwas

00:12:01: ist.".

00:12:07: Es ist ein

00:12:17: guter Punkt, wir haben was die Wertung angeht auf Basis von der Sicherheit von den LMMs.

00:12:23: Da haben wir einen LMM Security Leaderboard

00:12:26: jetzt vor kurzem

00:12:26: Haushalt genau und wollen dort mit der ID-Fence natürlich aufzeigen im Blick hin auf Security LMMs Wo sind die Quellen?

00:12:35: Wo ist die Verifikation von den Quellen.

00:12:36: Es geht sogar so weit, dass wir in Zukunft jetzt am demnächst was rausbringen werden, das wir sogar den Ursprung des LMMs herausfinden können.

00:12:43: Das wurde gesagt zu einem LMM wird trainiert es wird weiterentwickelt aber viel wichtiger ist manchmal auch zu wissen woher kommt es eigentlich noch im Beispiel Security.

00:12:50: Wir haben Security Reasoning Model das wir trainiert haben für unseren speziellen Use Case.

00:12:55: Aber da diesen Ursprungen rauszufinden woher das kommt das ist natürlich auch In dieser ganzen Fülle, die man heutzutage hat vom LMM auch ein wichtiger Punkt immer berücksichtigt.

00:13:03: Nur mal eine kurze Zwischenfrage, steht das im Code?

00:13:06: Erkennt man es daran wie sich's verhält oder woher kommt die Ursprungsinfo?

00:13:11: Verhalten.

00:13:12: Ganz großes Verhalten!

00:13:14: Es gibt bei uns intern sogar weil wir vorhin Sprache angesprochen haben bei LMMs.

00:13:18: Wir haben einfach mal getestet was bedeutet eigentlich wenn wir nicht sprechen mit so einem Elf sondern Morsecode schicken Und zack hast du auf einmal Dinge Effekte, die du vorher nicht bedacht hast bei so einem LMM.

00:13:28: Also sprich das LMM war für Morse Code nicht vorbereitet und auf einmal hat es Dinge ausgespuckt und wir haben die Guardrails damit gebrochen.

00:13:36: Ach guck an!

00:13:37: Das wurde ja auch schon korporiert dass die Agents untereinander eine eigene Sprache entwickeln.

00:13:41: Das könnte dann auch wieder ein Risiko sein.

00:13:44: Haben wir festgestellt, wie wir nach welchem Standard vorgehen.

00:13:47: Wir das Framework gestalten wollen?

00:13:50: Dann haben wir bei AI Governance gesprochen und ein bisschen darüber gesprochen dass man sich erst mal einen Überblick verschaffen muss.

00:13:55: dann muss man auch businessseitig verstehen an welchen Stellen AI benötigt wird und wie sie umgesetzt werden kann.

00:13:59: sicher Wenn jetzt was aus dem Ruder läuft im täglichen Business, also weiß ich nicht.

00:14:05: Zwei Agents die sich so intensiv miteinander ver- unterhalten dass sie nichts zu einem Ergebnis kommen solls ergeben oder sonst sagen das hab' ich auch eingreifen Mechanismen!

00:14:13: Also so wie früher Zero Day Patches oder Patches und Firewall Blocks gemacht habe kann ich irgendwie eingreifend wenn was passiert.

00:14:20: Absolut noch zu den Agents, diese befinden Sie ja nur in der Endlauchschleife Die verbrennen auch ganz viel Tokens Sprichressourcen Geld Wirtschaftlicher Aspekt.

00:14:30: Auf der anderen Seite, mit ARD-Fans würden wir so ein Chatbot ausbremsen.

00:14:33: Gehen wir mal davon aus ... Der Chatbot ist crazy unterwegs, spuckt Dinge aus, die er nicht soll.

00:14:37: Dann müssen wir ihn erst mal isolieren in Quarantäne schaffen.

00:14:40: Man redet auch oft von Sandboxing und wenn man Agentenbasiert spricht und in die Welt reinguckt, dann redet man oft von einem Kill Switch, den klassischen Notschalter.

00:14:49: So einen roter Schalter, den ich trüge.

00:14:50: Und dann müssen solche Szenarien komplett unterbrochen werden.

00:14:53: Weil wie du sagst, wenn etwas losläuft, befinden wir uns schnell eine Endloschleife.

00:14:58: Also wie du sagst also theoretisch dann Abschaltungen zu machen, einzugreifen und zu isolieren.

00:15:04: Das sind ja auch wieder Mechanismen die man aus der klassischen IT Security auch ganz gut kennt.

00:15:08: Bei der klassische IT Security die ich gerade angesprochen habe haben heute die einen oder anderen Unternehmen das Beste was es gibt im Bereich Multifaktortdefizierung e-mail security firewall Endpoint Security, IPS, IDS.

00:15:23: Also gibt ja alles einfach fragmentiert überall die besten Tools eingesetzt und dabei den Überblick verloren wenn ich so sagen darf.

00:15:31: Glaubst du das kann man in AI-Security besser machen oder ist es ein weiteres Tool meiner IT Infrastruktur dass wieder nur einen Teilbereich abbildet?

00:15:40: Sehr gute Frage.

00:15:42: als System Architekt würde ich sagen it depends.

00:15:45: aber Wie gesagt, dieses Framework, was ich vorhin angesagt habe.

00:15:48: Integrated AI Security Framework.

00:15:51: Das nutzen wir als Grundlage.

00:15:52: Wir müssen den Gleichgewicht bewahren in dem Moment und es gibt super viele Tools wie du sagst da draußen.

00:15:57: Und im ersten Schritt ist dennoch wichtig diesen AI Workflow abzusichern Ende zu Ende zu betrachten.

00:16:03: und das heißt der Plattformgedanke kommt wieder ins Spiel in dem moment weil das ist der Schlüssel mit Cisco Security Cloud Control.

00:16:09: Da haben wir so einen Plattform und da is auch AI Defense mit Endeffekt angedockt.

00:16:14: Genau über Security Cloud Controls geht ihr also den Weg, dass AI ein weiteres Baustein-Modul der ganzheitlichen Infrastruktursicherheit ist und nur wenn man alle Bestandteile versteht.

00:16:26: Also wie AI sich auch übers Netzwerk ausbreitet, wie sie genutzt wird von welchen Geräten sie benutzt wird was das wieder mit Usern zu tun hat, was es wieder mit Außenstellen und Perimeter und vielleicht auch Kommunikation mit Kunden zu tun haben.

00:16:36: Wenn man das gesammelt versteht dann versteht man auch den Einfluss denen eine KI hat weil man zum Beispiel unterscheiden kann ob baut jetzt nur Kunden oder nur Mitarbeiterinnen und besonderen Mitarbeitern zur Verfügung steht.

00:16:47: Und dann könnte man das ja auch dann begrenzen, dass man das gesamte Bild versteht.

00:16:51: Das

00:16:52: Rollen basiert ganz wichtig.

00:16:53: Jede Agent oder der dort ist so ein KI-Agent hat eine gewisse Entität.

00:16:58: Wenn wir über Identität sind müssen wir einfach über Multifaktor sofort sprechen.

00:17:03: wird auch zusätzlich, viele kennen ja vielleicht die höhere und höheren kennen Network Access Control.

00:17:07: Ja!

00:17:08: Wir schaffen sozusagen mit der AI einen weiteren Security Layer.

00:17:12: das heißt es gibt eine zusätzliche Identität Es gibt in Zukunft ein Peter als Agenten Der muss auch identifiziert werden im Netzwerk Und das schafft zu sagen eine weitere Sicherheitshürde.

00:17:22: Genau

00:17:22: und er hat auch Rechte und Verantwortlichkeiten und darf halt Dinge auch nicht tun weil wenn jeder auf alle Daten zugreifen kann bloß weil er ein Agent ist Das wäre ja einfach, dann hätte ich eine HR-Agent und ich wüsste zu was er als erstes ändern würde.

00:17:34: Ich würde als erstens ein Reisekostenagents nutzen der meine Reise kostet.

00:17:38: Aber den

00:17:39: erwarte ich dass er von SAP dann sowieso bald mal für Concord vorgestellt wird oder?

00:17:42: Sehr gut!

00:17:43: Also er hilft mir schon billige zu sortieren.

00:17:45: Wie versteht

00:17:46: uns Peter?

00:17:47: Genau kann man es so zusammenfassen ihr habt die Möglichkeit vorhandenen Tools zu analysieren dann zu bewerten und im Kontext des Frameworks entsprechend zu steuern.

00:17:55: richtig?

00:17:55: das haben wir auch mehr oder weniger schon besprochen.

00:17:57: Ja genau, darum geht es im Endeffekt.

00:17:59: AI Security passt perfekt wie gesagt dazu dem Plattform Approach und wir beginnen im Netzwerk und haben sozusagen die AI Infrastruktur als kompletten Stack den wir betrachten und so kann Sicherheit Ende zu Ende gewährleistet werden.

00:18:12: Und jetzt würde denen ein oder anderen natürlich noch interessieren, Sicherheitsprodukte werden ja immer irgendwie lizenziert.

00:18:19: Was hatten ihr da für Ideen wie man sowas eigentlich abbrechen kann?

00:18:22: Weil ich meine Endpoint Security wird nach Endpoints E-Mail nach Post fächern.

00:18:25: also da gibt es immer irgendeine Maßgabe.

00:18:27: Kann man das bei AI Defense irgendwie grob sagen und ist es einfach so tief verwoben dass ihr das einfach mit rein kalkuliert als weiteren Bestandteil?

00:18:35: Also grundsätzlich wenn wir über eher die entsprechenden Applikationen absichern wollen, wo wir jetzt von haben.

00:18:40: Haben wir natürlich einen Preismodell dafür?

00:18:42: Auf der anderen Seite der Return of Investment aktuell ist eine ganz große Frage.

00:18:46: Mache ich da ne SKU daraus die ich einzeln berechne, das Ganze mit dem Token basierten.

00:18:51: Das wird sich in Zukunft zeigen was daraus kommt weil... Ich geb dir Access zu so einem Agent, securitymäßig und du legst auf einmal los mit den Tokens.

00:19:00: Da vielleicht den Videochef kurz zitieren in dem Fall der gesagt hat je nachdem wenn ich Architekten einstelle für den Gehalt Jahresgehalt soll er mindestens die Hälfte so glaube ich hatte erst gemeint an Token zu brauchen.

00:19:12: also sprich es wird mitteinberechnet

00:19:15: Sehr schön, sehr perfekt.

00:19:16: Also dann erfasse ich die Folge von heute nochmal zusammen weil wir ja da schon wieder zum Ende kommen.

00:19:21: also erstens AI-Defense unterscheidet sich von IT Security in vielen Bereichen aber nicht in allen.

00:19:28: Man muss Eingriffsmöglichkeiten haben man muss Restriktionsmöglichkeit haben.

00:19:32: ganz wichtig ist ähnlich wie bei IT Security muss erstmal verstehen welche Löcher ich zu stopfen habe bzw was meine Landschaft überhaupt ausmacht.

00:19:39: an welchen Stellen werden heute noch LLMs und Chatbots verwendet.

00:19:44: Wo kommen morgen vielleicht noch Agenten hinzu?

00:19:46: Das muss ich auch dauerhaft kontrollieren, weil sich das immer in der Richtung entwickeln kann die ich vielleicht gar nicht mehr im Griff habe oder zumindest muss ich sehen dass sich was entwickeln.

00:19:54: Ich muss als Unternehmen und es ist ja die Herausforderung generell verstehen an welchen Stellen ich welche KI welche Funktionalitäten brauche.

00:20:03: sind kleine Small Language Models, die es ja auch gibt sind large Language Modules und Agents basierte Systeme.

00:20:10: Und wenn ich den Überblick habe dann kann ich ein Framework bauen das mit an Sicherheit grenzen Wahrscheinlichkeit A die Anforderung erfüllt ähnlich wie bei IT Security der sicherste User ist der da nichts in die Hand nimmt und nichts tut weil dann kann doch nichts passieren.

00:20:23: aber das ist ja nicht der Sinn der Sache.

00:20:24: man muss immer diese Balance zwischen Sicherheit und Funktionalität herstellen Und AI-Defenses, um das nochmal zu wiederholen.

00:20:31: Dafür gab es ja schon ein Podcast wo wir da mal drüber gesprochen haben was das tut eigentlich der richtige Ansatz oder?

00:20:37: Das könnte man so zusammenfassen also verstehen Grundlagen bauen umsetzen und regelmäßig weiter kontrollieren.

00:20:44: Wir befinden sehr in so einem schnellen Zyklus würde ich mal sagen Wo Open Source eine ganz große Rolle spielt und auch da haben wir auf der RSA viele Tools announced werden wir nachher der Folge wahrscheinlich als Linksteilen, wo wir auch in Richtung Open Source arbeiten.

00:20:59: Wir wollen nicht Bleeding Edge sein, wir sind Cutting Edge im Moment und treiben sozusagen AI Security aus der Open Source Richtung raus.

00:21:07: EID-Fans ist ein kommerzielle Projekt.

00:21:10: aber ich sage immer so schön, AI wartet nicht.

00:21:13: von daher... Let's do it now.

00:21:15: Ja, absolut!

00:21:15: Das macht Sinn.

00:21:16: Das ist vielleicht auch der perfekte Satz zum Ende.

00:21:18: Let's Do It Now und man sollte sich Gedanken darüber machen.

00:21:21: Als Callout auch wie gesagt AI Defense als Gesprächsgrundlage für die Kommunikation mit uns und dann kann man einfach mal drüber sprechen, wie man solche Frameworks aufbaut und da sind wir gerne der Ansprechpartner.

00:21:33: Vielen lieben Dank.

00:21:34: Danke dir Peter.

00:21:37: Also wenn euch die Folgen nur halb so viel Spaß machen wie mir und ihr genauso viele raus sieht weh ich, dann hat es sich schon wieder mal voll gelohnt Jörg einzuladen.

00:21:45: Beim nächsten Mal ist Osman wieder mit dabei und da haben wir beim letzten Mal über WiFi sieben gesprochen und diesmal gucken uns noch an was man noch alles mit Drahtlos Technologie lösen kann und welche Einsatzzwecke man damit realisieren kann.

00:21:59: freue mich auch riesig drauf.

00:22:00: für diejenigen die sich mit Wireless Beschäftigen eigentlich ein muss

00:22:06: Das waren die IT-Komplizen Der Podcast von COMSTOR mit Experten für euer erfolgreiches Cisco-Geschäft.

00:22:13: Jetzt abonnieren auf Spotify, Apple Podcast Deezer, Google Podcast Amazon Music und überall wo es Podcasts gibt!