KI-Governance als Sicherheitsherausforderung

Veracode Predictions 2025 zu Application Risk Management und Software-Sicherheit
KI-gestützte Behebung von Fehlern wird es für Entwickler weniger wichtig, sicheres Coding zu lernen

Durch die KI-gestützte Behebung von Fehlern wird es für Entwickler weniger wichtig, sicheres Coding zu lernen: "Weil sie sich mehr auf generative KI verlassen, um Fehler automatisch zu beheben, werden Entwickler weniger über sicheres Coding lernen. Diese Entwicklung ist vergleichbar mit der Aufgabe, jemanden anzurufen. Während wir uns vor einigen Jahrzehnten noch die Nummer von jemandem merken mussten, um ihn zu erreichen, brauchen wir heute nur noch auf einen Kontakt in unserem digitalen Adressbuch oder einer Nummer in einem Text zu tippen. Für Entwickler bedeutet das, dass sie mehr denn je sicheren Code produzieren können, ohne von Grund auf lernen zu müssen, wie man sicher programmiert. Stattdessen werden sie Prozesse einführen und Tools verwenden, um Schwachstellen automatisch zu finden, zu testen und zu beheben. Das bedeutet, dass es nicht mehr so wichtig sein wird, sicheres Coden zu beherrschen oder zu wissen, ob generative KI gelernt hat, wie man sicheren Code schreibt."

GenAI-generierter Code wird Unternehmen mit mehr Sicherheitsschulden belasten: "Mit KI-generiertem Code steigt die Geschwindigkeit beim Coden. Im Gegenzug werden auch die Anzahl der Schwachstellen und die Höhe der kritischen Sicherheitsschulden zunehmen. Da immer mehr Code in rasantem Tempo erstellt wird, werden die Entwickler mit Compliance-Risiken, Sicherheitswarnungen und Qualitätsproblemen überschwemmt werden. Die Suche nach einer Lösung, die hier Abhilfe schafft, ist entscheidend. Die Verwendung von GenAI zum Schreiben von Code ist der Verwendung der gleichen Technologie für die Sicherheitshärtung und -behebung noch zwei Jahre voraus. Aus diesem Grund ist 2025 mit einem raschen Anstieg der Nutzung von KI-gestützter Fehlerbehebung zu rechnen, um Schwachstellen schneller zu beseitigen und so die Sicherheit von Unternehmen wesentlich zu verbessern. (Chris Wysopal, Chief Security Evangelist bei Veracode)

KI richtig zu prompten wird immer wichtiger
"KI-Anwendungen lernen dazu und werden immer intelligenter. Damit wird die Kluft zwischen den Anforderungen der Unternehmen und den Kenntnissen der arbeitssuchenden Fachkräfte immer größer. Viele befürchten, dass wir uns in Sachen Sicherheit zu sehr auf KI verlassen. Aus diesem Grund werden GenAI Prompting-Fähigkeiten sowohl für Entwickler als auch für Sicherheitsteams im Jahr 2025 und darüber hinaus unverzichtbar werden. Wir werden mehr Prompting-Engineering-Rollen sehen, die eine Weiterentwicklung der traditionellen System-Engineering-Rolle darstellen. Menschliche Fähigkeiten wie Geschäftssinn und Prozessmanagement werden jedoch für Sicherheits- und Entwicklerteams weiterhin unerlässlich sein, um erfolgreich zu arbeiten."

KI-Governance wird zur Sicherheitsherausforderung schlechthin: "Verschiedene Regionen setzen Cybersecurity-Vorschriften in unterschiedlichem Tempo um. Eine so komplexe globale Security-Landschaft wird Softwareanbieter dazu zwingen, stark in die Compliance-Umsetzung zu investieren. Bestehende KI-Vorschriften konzentrieren sich bisher vor allem auf ethische Richtlinien, Voreingenommenheit, Datenschutz und Desinformation und weniger auf Sicherheit. Im kommenden Jahr wird die KI-Governance sowohl für Cybersicherheitsexperten als auch für Regulierungsbehörden zu einem wichtigen Thema werden - insbesondere da die in den USA ansässigen Software-Regulierungsbehörden mit der Ausarbeitung von Standards für diese sich ständig weiterentwickelnde Technologie zu kämpfen haben."

Die Ausnutzung von Open-Source-Schwachstellen wird zunehmen, da Angreifer immer mehr weit verbreitete, aber schlecht gewartete Komponenten ins Visier nehmen. "Im Jahr 2025 werden Angreifer mehr als je zuvor auf Open-Source-Schwachstellen abzielen und diese ausnutzen. Dies ist besorgniserregend, da es eine zentrale Schwachstelle in modernen Software-Ökosystemen aufzeigt. Open-Source-Komponenten sind wegen ihrer Zugänglichkeit und Kosteneffizienz weit verbreitet, aber das macht sie auch zu einem bevorzugten Ziel für Angreifer. Denn Unternehmen haben Schwierigkeiten, mit dem notwendigen Tempo bei Patches und Abhilfemaßnahmen Schritt zu halten. Dies wiederum führt zu wachsenden Sicherheitslücken, in der Schwachstellen länger bestehen als sie sollten. Das vergrößert die Sicherheitslücken nur noch mehr und bringt Unternehmen zunehmend in Gefahr. Um dieser Entwicklung zu begegnen, müssen Unternehmen nicht nur in proaktive Sicherheitsmaßnahmen investieren, sondern auch enger mit Open-Source-Communities zusammenarbeiten. So lassen sich Sicherheitsprobleme schneller erkennen und beheben." (Sohail Iqbal, Chief Information Security Officer bei Veracode)
(Veracode: ra)

eingetragen: 24.12.24
Newsletterlauf: 10.03.25

Veracode: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

eingetragen: 12.12.24
Newsletterlauf: 26.02.25

Meldungen: IT Security

Markt, Branche & Security-Tipps

Cyber-Recovery automatisch testen
Commvault gab die Partnerschaft mit Kyndryl bekannt. Ziel der Zusammenarbeit ist es, Kunden bei der zügigen Wiederherstellung von Daten und IT-Infrastrukturen nach Vorfällen oder Cyberangriffen zu unterstützen, ihre Cyberresilienz zu stärken und ihnen im zunehmend komplexen regulatorischen Umfeld Orientierung zu bieten.
"Trend Vision One Sovereign Private Cloud"
Trend Micro stellte in Zusammenarbeit mit Dell Technologies und Nvidia eine Reihe von gemeinsam entwickelten, vorab genehmigten OEM-Appliance-Angeboten bereit. Diese unterstützen sichere und KI-gestützte Infrastrukturen, die sich flexibel skalieren und an die Anforderungen globaler Unternehmen anpassen lassen.
Cyberangriffe auf die Industrie
Cyberkriminalität verursacht in Deutschland immense wirtschaftliche Schäden. 2024 erreichte die Schadensumme für Unternehmen mit über 266 Milliarden Euro einen Rekordwert. Den größten Anteil - knapp 55 Milliarden Euro - machte dabei der Angriff auf Produktions- und Betriebsabläufe aus. Damit wächst der Bedarf an hochmoderner Hard- und Software zum Schutz der Operation Technology (OT) gegen unerwünschte Eindringlinge. Die Pyramid Computer GmbH stärkt die OT-Sicherheit mit einem neuen IoT-Gateway.

Bedrohungslage für die EU-Cybersicherheit 2025 geht Ransomware-as-a-Service durch die Decke

Fachbeiträge: Hintergrund

Tape hat ausgedient, Public Cloud ist verzichtbar
Zwei in der Datensicherung eingesetzte Technologien stehen derzeit bei vielen Unternehmen und Behörden auf dem Prüfstand. Bei Tape sind mit der Einführung von LTO-10 die Verbindungen zu Vorgängergenerationen komplett abgeschnitten worden, was eine vollständige Migration aller Systeme und Daten notwendig macht. Die Public Cloud entpuppt sich in vielen Fällen als wesentlich teurer als angenommen und zudem bestimmen rechtlichen Bedenken hinsichtlich Datenschutz und Datenhoheit die Diskussion.
Steigende Globalisierung von Daten
Der Aufstieg souveräner Clouds ist unausweichlich geworden, da regulatorische Anforderungen und geopolitische Spannungen Unternehmen dazu zwingen, neu zu überdenken, wo ihre Daten gespeichert werden. Lokalisierte Cloud-Umgebungen werden zunehmend unerlässlich, da sie Unternehmen erlauben, ihre Daten innerhalb bestimmter rechtlicher Rahmen zu halten, um Compliance-Anforderungen zu erfüllen und Risiken zu reduzieren. Doch souveräne Clouds können ohne Daten-Portabilität - also der Möglichkeit, Daten nahtlos zwischen Systemen und Standorten zu verschieben - nicht erfolgreich sein. Es gilt: Nicht warten, bis Regulierungen einen selbst antreiben, sondern der Entwicklung voraus sein.

Fachbeiträge: Grundlagen

Was ist eigentlich eine souveräne Cloud?
Der weltweite Wettlauf um KI-Innovation hat Cloud Computing noch weiter vorangetrieben. Doch der Fokus verschiebt sich von initialen Anwendungsfällen mit oft unkritischen Daten und einer gewissen Zurückhaltung bei der konkreten Nutzung von KI hin zu der Frage, wie man KI mit eigenen Daten verwendet und gleichzeitig das geistige Eigentum oder andere für die Organisation kritische Daten weiterhin schützt und kontrolliert.
Cloud-kompatibel werden
Im Zuge der digitalen Transformation verlangen Geschäftsmodelle nach mehr Kundennähe, digitale Produkte und Services werden in immer kürzeren Zeitspannen entwickelt und iterativ an wechselnde Kundenansprüche angepasst. Cloud-Technologien sind für Unternehmen ein wichtiger Baustein, um in dem Tempo, das der Wettbewerb vorgibt, Innovationen auf den Markt zu bringen.

IT Security

In Cybersicherheitsfortbildungen investieren
Für rund 30 Prozent der Stellen im Bereich IT-Netzwerktechnik, IT-Koordination, IT-Administration und IT-Organisation, die auch IT-Sicherheit einschließen, fehlen laut dem Kompetenzbarometer des Instituts der deutschen Wirtschaft qualifizierte Fachkräfte [1]. Die gute Nachricht: Lernende in Deutschland investieren zunehmend in Cybersicherheitsfähigkeiten. So sind laut dem "Global Skills Report 2025" [2] die Einschreibungen in Coursera-Kurse wie "Grundlagen der Cybersecurity" von Google im Vorjahresvergleich um 12 Prozent gestiegen.
Cyber-Recovery automatisch testen
Commvault gab die Partnerschaft mit Kyndryl bekannt. Ziel der Zusammenarbeit ist es, Kunden bei der zügigen Wiederherstellung von Daten und IT-Infrastrukturen nach Vorfällen oder Cyberangriffen zu unterstützen, ihre Cyberresilienz zu stärken und ihnen im zunehmend komplexen regulatorischen Umfeld Orientierung zu bieten.

IT Security - Angriffe & Lecks

Ermittlern gelingt Schlag gegen Lumma-Infostealer
Check Point Software Technologies analysiert die Tragweite des Lumma-Takedowns. Am 21. Mai 2025 gaben Europol, das FBI und Microsoft in Zusammenarbeit mit anderen Partnern aus dem öffentlichen und privaten Sektor eine Operation zur Zerschlagung der Aktivitäten des Infostealers Lumma bekannt. Die Malware, die als einer der produktivsten Infostealer gilt, wird über ein Malware-as-a-Service-Modell verbreitet. Lumma wird nicht nur von gewöhnlichen Cyber-Kriminellen zum Diebstahl von Anmeldedaten verwendet, sondern gehört auch zum Arsenal mehrerer bekannter Bedrohungsakteure, darunter Scattered Spider, Angry Likho und CoralRaider.
Überblick über die Phishing-Kampagne
Seit März 2025 hat das Team einen Anstieg von Phishing-Angriffen beobachtet, die die AppSheet-Plattform von Google ausnutzen, um eine sehr gezielte und ausgeklügelte Kampagne zu starten. Dabei geben sich die Angreifer als der Social-Media-Plattformriese Meta aus. Die Angreifer nutzen dabei hochmoderne Taktiken wie polymorphe Identifikatoren, fortschrittliche Man-in-the-Middle-Proxy-Mechanismen und Techniken zur Umgehung der Multi-Faktor-Authentifizierung. So können sie Anmeldedaten und Codes für die Zwei-Faktor-Authentifizierung (2FA) abgreifen und erhalten Echtzeit-Zugang zu Social-Media-Konten.

IT Security - Fachbeiträge

Kritischer Blick auf eigene Datenresilienz
Jahrelang haben viele Unternehmen das Thema Datenresilienz auf die lange Bank geschoben. Im Laufe der Zeit hat die Zunahme an Bedrohungen, Vorschriften und Best Practices jedoch die Spielregeln verändert. Datenresilienz steht mittlerweile fest auf der To-Do-Liste vieler Unternehmen - und das ist auch dringend notwendig.
Liquid Cooling für KI-Rechenzentren
Der breite Einsatz von Modellen künstlicher Intelligenz in Forschung, Industrie und Wirtschaft verändert die thermischen und energetischen Anforderungen an moderne Rechenzentren. Dabei wird die Kühlungsmethode Liquid Cooling (Flüssigkeitskühlung) immer relevanter, denn sie gilt als Voraussetzung für den zukunftsfähigen Betrieb rechenintensiver KI-Workloads.

IT Security - Tipps / Hintergrund / Wissen

Steigende Bedrohung durch Ransomware
Ein unachtsamer Klick oder ein ungeschütztes Gerät im Netzwerk genügt und plötzlich steht alles still. Ransomware-Angriffe treffen Unternehmen heute härter denn je: Produktionsausfälle, verärgerte Kunden, Compliance-Verstöße und oft unbrauchbare Backups sind die Probleme, vor denen Unternehmen nach einem Angriff stehen. Ein derartiges Worst-Case-Szenario ist nicht hypothetisch. Denn die Frage lautet nicht mehr ob, sondern wann ein solcher Angriff ein Unternehmen trifft.
Qilin erpresst seine Opfer doppelt
Qilin zählt inzwischen zu den aktivsten und wirkungsvollsten Ransomware-Operationen weltweit. Die Schadsoftware verbreitet sich zunehmend über etablierte Cybercrime-Netzwerke und spielt eine zentrale Rolle in aktuellen Bedrohungsmodellen. Die ersten Versionen wurden 2022 unter dem Namen "Agent" veröffentlicht und später vollständig in Rust neu entwickelt. Ab Ende 2023 gewann die Gruppe durch gezielte Angriffe auf VMware-ESXi-Systeme an Sichtbarkeit. Im Jahr 2024 folgten funktionale Erweiterungen, darunter ein Chrome-Stealer sowie leistungsfähigere Mechanismen zur Verschlüsselung und zur Umgehung von Sicherheitslösungen.