KI-Governance als Sicherheitsherausforderung

Veracode Predictions 2025 zu Application Risk Management und Software-Sicherheit
KI-gestützte Behebung von Fehlern wird es für Entwickler weniger wichtig, sicheres Coding zu lernen

Durch die KI-gestützte Behebung von Fehlern wird es für Entwickler weniger wichtig, sicheres Coding zu lernen: "Weil sie sich mehr auf generative KI verlassen, um Fehler automatisch zu beheben, werden Entwickler weniger über sicheres Coding lernen. Diese Entwicklung ist vergleichbar mit der Aufgabe, jemanden anzurufen. Während wir uns vor einigen Jahrzehnten noch die Nummer von jemandem merken mussten, um ihn zu erreichen, brauchen wir heute nur noch auf einen Kontakt in unserem digitalen Adressbuch oder einer Nummer in einem Text zu tippen. Für Entwickler bedeutet das, dass sie mehr denn je sicheren Code produzieren können, ohne von Grund auf lernen zu müssen, wie man sicher programmiert. Stattdessen werden sie Prozesse einführen und Tools verwenden, um Schwachstellen automatisch zu finden, zu testen und zu beheben. Das bedeutet, dass es nicht mehr so wichtig sein wird, sicheres Coden zu beherrschen oder zu wissen, ob generative KI gelernt hat, wie man sicheren Code schreibt."

GenAI-generierter Code wird Unternehmen mit mehr Sicherheitsschulden belasten: "Mit KI-generiertem Code steigt die Geschwindigkeit beim Coden. Im Gegenzug werden auch die Anzahl der Schwachstellen und die Höhe der kritischen Sicherheitsschulden zunehmen. Da immer mehr Code in rasantem Tempo erstellt wird, werden die Entwickler mit Compliance-Risiken, Sicherheitswarnungen und Qualitätsproblemen überschwemmt werden. Die Suche nach einer Lösung, die hier Abhilfe schafft, ist entscheidend. Die Verwendung von GenAI zum Schreiben von Code ist der Verwendung der gleichen Technologie für die Sicherheitshärtung und -behebung noch zwei Jahre voraus. Aus diesem Grund ist 2025 mit einem raschen Anstieg der Nutzung von KI-gestützter Fehlerbehebung zu rechnen, um Schwachstellen schneller zu beseitigen und so die Sicherheit von Unternehmen wesentlich zu verbessern. (Chris Wysopal, Chief Security Evangelist bei Veracode)

KI richtig zu prompten wird immer wichtiger
"KI-Anwendungen lernen dazu und werden immer intelligenter. Damit wird die Kluft zwischen den Anforderungen der Unternehmen und den Kenntnissen der arbeitssuchenden Fachkräfte immer größer. Viele befürchten, dass wir uns in Sachen Sicherheit zu sehr auf KI verlassen. Aus diesem Grund werden GenAI Prompting-Fähigkeiten sowohl für Entwickler als auch für Sicherheitsteams im Jahr 2025 und darüber hinaus unverzichtbar werden. Wir werden mehr Prompting-Engineering-Rollen sehen, die eine Weiterentwicklung der traditionellen System-Engineering-Rolle darstellen. Menschliche Fähigkeiten wie Geschäftssinn und Prozessmanagement werden jedoch für Sicherheits- und Entwicklerteams weiterhin unerlässlich sein, um erfolgreich zu arbeiten."

KI-Governance wird zur Sicherheitsherausforderung schlechthin: "Verschiedene Regionen setzen Cybersecurity-Vorschriften in unterschiedlichem Tempo um. Eine so komplexe globale Security-Landschaft wird Softwareanbieter dazu zwingen, stark in die Compliance-Umsetzung zu investieren. Bestehende KI-Vorschriften konzentrieren sich bisher vor allem auf ethische Richtlinien, Voreingenommenheit, Datenschutz und Desinformation und weniger auf Sicherheit. Im kommenden Jahr wird die KI-Governance sowohl für Cybersicherheitsexperten als auch für Regulierungsbehörden zu einem wichtigen Thema werden - insbesondere da die in den USA ansässigen Software-Regulierungsbehörden mit der Ausarbeitung von Standards für diese sich ständig weiterentwickelnde Technologie zu kämpfen haben."

Die Ausnutzung von Open-Source-Schwachstellen wird zunehmen, da Angreifer immer mehr weit verbreitete, aber schlecht gewartete Komponenten ins Visier nehmen. "Im Jahr 2025 werden Angreifer mehr als je zuvor auf Open-Source-Schwachstellen abzielen und diese ausnutzen. Dies ist besorgniserregend, da es eine zentrale Schwachstelle in modernen Software-Ökosystemen aufzeigt. Open-Source-Komponenten sind wegen ihrer Zugänglichkeit und Kosteneffizienz weit verbreitet, aber das macht sie auch zu einem bevorzugten Ziel für Angreifer. Denn Unternehmen haben Schwierigkeiten, mit dem notwendigen Tempo bei Patches und Abhilfemaßnahmen Schritt zu halten. Dies wiederum führt zu wachsenden Sicherheitslücken, in der Schwachstellen länger bestehen als sie sollten. Das vergrößert die Sicherheitslücken nur noch mehr und bringt Unternehmen zunehmend in Gefahr. Um dieser Entwicklung zu begegnen, müssen Unternehmen nicht nur in proaktive Sicherheitsmaßnahmen investieren, sondern auch enger mit Open-Source-Communities zusammenarbeiten. So lassen sich Sicherheitsprobleme schneller erkennen und beheben." (Sohail Iqbal, Chief Information Security Officer bei Veracode)
(Veracode: ra)

eingetragen: 24.12.24
Newsletterlauf: 10.03.25

Veracode: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

eingetragen: 12.12.24
Newsletterlauf: 26.02.25

Meldungen: IT Security

Markt, Branche & Security-Tipps

Nur bei schwersten Straftaten zulässig
Das Bundesverfassungsgericht hat den Einsatz sogenannter Staatstrojaner teilweise für verfassungswidrig erklärt. Dazu erklärt Bitkom-Hauptgeschäftsführer Dr. Bernhard Rohleder: "Bitkom begrüßt das Urteil des Bundesverfassungsgerichts, das dem Einsatz des sogenannten Staatstrojaners enge Grenzen setzt. Die Karlsruher Richter betonen zu Recht, dass der Eingriff in die digitale Privatsphäre nur bei schwersten Straftaten zulässig ist. Der Gesetzgeber ist nun in der Pflicht nachzubessern und Rechtssicherheit für die Anbieter digitaler Dienste und von Telekommunikationslösungen zu schaffen."
Zusätzlich an Schlagkraft gewonnen
Orange Cyberdefense, die Cybersecurity-Tochtergesellschaft von Orange, hat 100 Prozent der Anteile von ensec übernommen, einem Schweizer Cybersecurity-Unternehmen, das für seine Expertise in Beratung, IT-Sicherheitsintegration und Managed Security Services bekannt ist. Der maßgeschneiderte Support von ensec deckt ein breites Portfolio von Produkten führender Cybersecurity-Anbieter ab. Die strategische Übernahme, die am 23. Juli 2025 abgeschlossen wurde, wird die bestehende Präsenz von Orange Cyberdefense in der Schweiz gezielt erweitern.
Kommunikationskanal mitnichten zerstört
In letzter Zeit konnte man häufig von erfolgreichen Schlägen verschiedener Polizeibehörden unterschiedlicher Staaten gegen Strukturen von Cyber-Kriminellen lesen. Unter anderem wurde das Darknet-Forum BreachForums, eines der wichtigsten der cyber-kriminellen Szene, unter die Kontrolle von Ermittlern gestellt. Wer nun aber glaubt, dass solche Schläge ein Grund zum Feiern sind, der denkt nicht an morgen, denn bald nach der Abschaltung tauchten etliche Nachfolger oder sogar Kopisten auf. Hinzu kommt sogar, dass die Betreiber des Hacker-Forums DarkForums, welches BreachForums beinahe in allen Punkten spiegelt, stolz verkündet haben, dass sie über die Messenger App Telegram den Kanal Jacuzzi weiter betreiben, der zuvor der offizielle Chatroom der BreachForums war.

Bedrohungslage für die EU-Cybersicherheit 2025 geht Ransomware-as-a-Service durch die Decke

Fachbeiträge: Hintergrund

Künstliche Intelligenz in der Cloud
Die Giganten der Tech-Branche planen in diesem Jahr mehr als 300 Milliarden US-Dollar auszugeben, um im KI-Wettrüsten wettbewerbsfähig zu bleiben. Allein Amazon hat über 100 Milliarden US-Dollar angekündigt, während Microsoft, Alphabet und Meta jeweils weitere Dutzende Milliarden für den Bau riesiger Rechenzentren, den Ausbau von GPU-Clustern und die Sicherung ihrer Dominanz im Bereich der Cloud-basierten KI ausgeben wollen. Investitionen in dieser Größenordnung sorgen für Schlagzeilen und viele Unternehmen, die selbst dabei sind, ihre KI-Strategie zu planen, sehen sich gezwungen, ihrerseits hohe Budgets einzuplanen. Für die meisten Unternehmen ist es jedoch weder praktikabel noch notwendig, den Plänen der Hyperscaler zu folgen. IT-Führungskräfte fragen sich deshalb zurecht, was für den Einsatz der KI im Unternehmen tatsächlich benötigt wird.
Tape hat ausgedient, Public Cloud ist verzichtbar
Zwei in der Datensicherung eingesetzte Technologien stehen derzeit bei vielen Unternehmen und Behörden auf dem Prüfstand. Bei Tape sind mit der Einführung von LTO-10 die Verbindungen zu Vorgängergenerationen komplett abgeschnitten worden, was eine vollständige Migration aller Systeme und Daten notwendig macht. Die Public Cloud entpuppt sich in vielen Fällen als wesentlich teurer als angenommen und zudem bestimmen rechtlichen Bedenken hinsichtlich Datenschutz und Datenhoheit die Diskussion.

Fachbeiträge: Grundlagen

Beispiel für die 3-2-1-Backup-Regel
Die 3-2-1-Backup-Regel ist ein einfacher, aber wirkungsvoller Ansatz zur Datensicherung. Diese Strategie gewährleistet, dass Daten unter nahezu allen Umständen sicher und wiederherstellbar sind. Sie minimiert Risiken und maximiert die Ausfallsicherheit, indem mehrere Kopien der Daten an verschiedenen Orten aufbewahrt werden. Interessant wird das Thema jedoch, wenn Cloud-Ressourcen bzw. Cloud-Tools mieteinbezogen werden.
Cloud-Repatriierung richtig planen
Lange galt die Cloud als Endpunkt der IT-Modernisierung. Doch mit dem Aufkommen rechenintensiver KI-Workloads, neuen regulatorischen Pflichten und intransparenten Kostenmodellen stellt sich für viele Unternehmen die Frage neu: Welche Workloads gehören wirklich in die Cloud und welche besser zurück ins eigene Rechenzentrum? Dieser Leitfaden gibt Orientierung für die Rückverlagerung geschäftskritischer Anwendungen.

IT Security

Zusätzlich an Schlagkraft gewonnen
Orange Cyberdefense, die Cybersecurity-Tochtergesellschaft von Orange, hat 100 Prozent der Anteile von ensec übernommen, einem Schweizer Cybersecurity-Unternehmen, das für seine Expertise in Beratung, IT-Sicherheitsintegration und Managed Security Services bekannt ist. Der maßgeschneiderte Support von ensec deckt ein breites Portfolio von Produkten führender Cybersecurity-Anbieter ab. Die strategische Übernahme, die am 23. Juli 2025 abgeschlossen wurde, wird die bestehende Präsenz von Orange Cyberdefense in der Schweiz gezielt erweitern.
Nur bei schwersten Straftaten zulässig
Das Bundesverfassungsgericht hat den Einsatz sogenannter Staatstrojaner teilweise für verfassungswidrig erklärt. Dazu erklärt Bitkom-Hauptgeschäftsführer Dr. Bernhard Rohleder: "Bitkom begrüßt das Urteil des Bundesverfassungsgerichts, das dem Einsatz des sogenannten Staatstrojaners enge Grenzen setzt. Die Karlsruher Richter betonen zu Recht, dass der Eingriff in die digitale Privatsphäre nur bei schwersten Straftaten zulässig ist. Der Gesetzgeber ist nun in der Pflicht nachzubessern und Rechtssicherheit für die Anbieter digitaler Dienste und von Telekommunikationslösungen zu schaffen."

IT Security - Angriffe & Lecks

Neue Backdoor im Einsatz
Seit Mitte 2024 beobachten die Bitdefender Labs ein neues Muster bösartiger gezielter Attacken mit dem Ziel, langfristigen Zugriff auf die Opfernetze zu erlangen. Die neuen Akteure, von Bitdefender Curly COMrades benannt, unterstützen offensichtlich russische Interessen und attackieren Unternehmen und Betreiber kritischer Infrastrukturen. Die Opfer befinden sich vor allem in Krisengebieten der aktuellen Geopolitik - darunter Justiz- und Regierungsbehörden in Georgien sowie Energieversorgungsunternehmen in Moldawien.
Attacke gegen Krypto-Währungen
Sicherheitsforscher von Check Point sind einer weiteren Attacke gegen Krypto-Währungen auf die Spur gekommen. Betrügerische Werbeanzeigen über Social Media, die sich als vermeintliche Apps und Finanzdienstleister ausgeben, sollen Nutzer in die Falle locken. Die Kampagne läuft erfolgreich, vor allem in der Europäischen Union, mit über 35000 verseuchten Werbeanzeigen.

IT Security - Fachbeiträge

Malware in Dokumenten
Die Digitalisierung des Finanzsektors und die Verarbeitung großer Mengen sensibler Daten machen Finanzdienstleister zunehmend zur Zielscheibe für Cyberkriminelle. Angreifer setzen dabei auf bewährte Methoden wie Social Engineering, Phishing oder Ransomware, um Systeme zu kompromittieren, Informationen abzugreifen, Unternehmen zu erpressen oder Betriebsstörungen zu verursachen. Besonders häufig wählen sie Angriffspfade, die sich im Arbeitsalltag etabliert haben. Mit Malware infizierte Dokumente stellen immer noch eine oft unterschätzte Bedrohung dar. Der folgende Beitrag erläutert die Gefahr, die von diesem Angriffsvektor ausgeht und wie ein mehrschichtiger Schutzansatz die Cybersicherheit im Finanzumfeld stärken kann.
Aufgaben einer DORA-Compliance lösen
Der Digital Operational Resilience Act (DORA), welcher am 17. Januar 2025 in Kraft getreten ist, betrifft nicht nur Anbieter von Finanzdiensten, sondern auch deren IT-Dienstleister: Dazu gehören sowohl Partner und Distributoren, aber auch indirekte IT-Dienstanbieter, wie die Anbieter von IT-Sicherheitsplattformen. Der Kreis der Unternehmen, für die sich aus dem Gesetz neue Hausaufgaben ergeben, ist also größer als vermutet. Für alle ist DORA aber eine Chance, die Resilienz ihrer IT-Infrastruktur gegen Cyberangriffe jetzt zu erhöhen.

IT Security - Tipps / Hintergrund / Wissen

Sicherheit in die Entwicklung integrieren
Der zunehmende Einsatz von KI-gestützten Tools in der Softwareentwicklung verspricht schnelleres Programmieren, weniger Routineaufgaben und eine gesteigerte Produktivität. Eine aktuelle Analyse von Armis Labs zeigt jedoch, welche Sicherheitsrisiken entstehen, wenn sich Entwickler zu stark auf KI-generierten Code verlassen - insbesondere dann, wenn manuelle Prüfungen entfallen und automatisierte Vorschläge ungeprüft übernommen werden.
Gespeicherte Passwörter gesammelt
Security-Experten warnen Android-Anwender vor einer neuen Spyware in Verbindung mit infizierten Apps. Durch die Android-Spyware sind aber auch Unternehmen den schwerwiegenden Bedrohungen ausgesetzt, da private Geräte manchmal Zugriff auf Unternehmenssysteme und -daten bieten. In Zeiten hybrider Arbeitsmodelle, in denen Bring-Your-Own-Device-Umgebungen an der Tagesordnung sind, kann ein einziges kompromittiertes Mobilgerät Angreifern einen Zugangspunkt zu sensiblen Netzwerken bieten.