Sie sind hier: Startseite » Markt » Studien

Herausforderungen für ethische KI-Praxis

Studie deckt branchenübergreifend kritische Lücken in Praxis zu Responsible AI auf
Untersuchung von ESG Research unterstreicht die Notwendigkeit von verbesserter KI-Governance, Transparenz und Zusammenarbeit

Unternehmen müssen bei ihren Bemühungen hinsichtlich Künstlicher Intelligenz Responsible AI besondere Priorität einräumen – nicht nur, um existierende und künftige rechtliche Regelungen einzuhalten, sondern auch, um das allgemeine Vertrauen in KI-getriebene Innovationen zu fördern und diese zu integrieren. Das ist das Ergebnis einer Studie der Enterprise Strategy Group (ESG) von TechTarget im Auftrag von Qlik.

Die Untersuchung sollte den Stand des praktischen Einsatzes von Responsible AI in den verschiedenen Branchen beleuchten. Diese bahnbrechende Studie befasst sich mit dem dringenden Bedarf an robusten ethischen Rahmenwerken, transparenten KI-Abläufen und branchenübergreifender Zusammenarbeit, um die Komplexität der KI-Integration in Geschäftsprozesse zu bewältigen.

Der Report von ESG enthält aufschlussreiche Daten über die Einführung, die Herausforderungen und die strategischen Initiativen im Zusammenhang mit Responsible AI:

>> Weitverbreitete Einführung von KI-Technologien: Überwältigende 97 Prozent der befragten Unternehmen setzen sich aktiv mit KI auseinander, wobei ein erheblicher Teil (74 Prozent) bereits Generative AI in der Produktion einsetzt. Dies markiert eine bemerkenswerte Verschiebung hin zu KI-gesteuerten Abläufen in allen Sektoren.

>> Viel Investition, wenig Strategie: Alle Befragten behaupten zwar von sich, aktiv in KI zu investieren, aber nur 61 Prozent stellen tatsächlich ein nennenswertes Budget für diese Technologien bereit. Es gibt obendrein eine bemerkenswerte Diskrepanz bei der strategischen Planung: 74 Prozent der befragten Unternehmen geben zu, dass sie noch gar keinen umfassenden, unternehmensweiten Ansatz für verantwortungsvolle KI haben.

>> Herausforderungen für ethische KI-Praxis: Der Report hebt mehrere zentrale Herausforderungen hervor, mit denen Unternehmen konfrontiert sind, darunter:
## 86 Prozent der befragten Unternehmen stehen vor der Herausforderung, die Transparenz und Erklärbarkeit von KI-Systemen zu gewährleisten, was auf einen hohen Bedarf an Lösungen zur Entmystifizierung von KI-Prozessen hinweist.
## fast alle Unternehmen (99 Prozent) sehen sich mit Hürden bei der Einhaltung von rechtlichen, KI-bezogenen Vorschriften sowie Standards konfrontiert, was die komplexe regulatorische Landschaft rund um KI-Technologien unterstreicht.

>> Operative Auswirkungen und Priorisierung von Responsible AI: Trotz der Herausforderungen stufen 74 Prozent aller Unternehmen verantwortungsvollen Einsatz von KI als höchste Priorität ein, was ein Zeichen für die wachsende Anerkennung der Bedeutung der Technologie ist. Dennoch hat mehr als ein Viertel der Befragten aufgrund unzureichender Maßnahmen für Responsible AI mit erhöhten Betriebskosten, behördlicher Kontrolle und Verzögerungen am Markt zu kämpfen.

>> Starkes Engagement der Stakeholder bei der Entscheidungsfindung im Bereich KI: Die Untersuchung zeigt, dass es bezüglich Responsible AI eine breit gefächerte Stakeholder-Landschaft gibt. IT-Abteilungen nehmen dabei eine besonders proaktive Rolle ein. Dies unterstreicht die Notwendigkeit von integrativen und kollaborativen Ansätzen bei der ethischen KI-Einführung und -Governance.

Angesichts der Ergebnisse von ESG-Research erkennt Qlik die Notwendigkeit an, KI-Technologien mit Responsible-AI-Prinzipien in Einklang zu bringen. Die Initiativen des Unternehmens in diesem Bereich beruhen auf der Bereitstellung robuster Datenmanagement- und Analysefunktionen, die für jedes Unternehmen, das die Komplexität von KI verantwortungsbewusst steuern will, unerlässlich sind. Qlik unterstreicht außerdem die Bedeutung einer soliden Datengrundlage, die für die Gewährleistung von Transparenz, Verantwortlichkeit und Fairness bei KI-Anwendungen entscheidend ist.

"Die ESG-Studie spiegelt unsere Haltung wider, dass der Kern der KI-Einführung jenseits der Technologie liegt – denn es geht darum, eine solide Datengrundlage für Entscheidungen und Innovationen zu schaffen", erklärt Brendan Grady, General Manager der Analytics Business Unit bei Qlik. "Wir bei Qlik unterstützen Unternehmen nicht nur beim Einsatz von KI, sondern auch bei deren sinnvoller Integration, die sich an ihren strategischen Zielen orientiert. Diese Studie unterstreicht die Bedeutung einer Integration von Responsible AI als Katalysator für ein nachhaltiges und wirkungsvolles Unternehmenswachstum."

"Unsere Studie bestätigt die wachsende Akzeptanz von KI in allen Branchen, zeigt aber auch eine Lücke bei der effektiven Umsetzung verantwortungsvoller KI-Praktiken auf", ergänzt Michael Leone, Principal Analyst bei ESG. "Während Unternehmen ihre KI-Initiativen weiter vorantreiben, wird die Notwendigkeit einer soliden Grundlage, die ethische Richtlinien und eine robuste Data Governance unterstützt, immer wichtiger. Unsere Studie zielt darauf ab, Unternehmen bei der Förderung verantwortungsvoller Innovationen zu unterstützen, die sowohl mit den Geschäftszielen als auch mit ethischen Standards in Einklang stehen."

Um die umfassenden Ergebnisse der ESG-Forschung zu Responsible AI und ihre Auswirkungen auf Unternehmen zu erkunden, sollten Interessierte den vollständigen Bericht herunterladen. Dieses Dokument bietet einen detaillierten Einblick in die aktuelle Landschaft der KI-Integration und die entscheidenden Schritte, die für die Einführung ethischer KI-Praktiken erforderlich sind. (Qlik: ra)

eingetragen: 10.05.24
Newsletterlauf: 08.07.24

Qlik Tech: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Studien

KI ein geschäftlicher Hebel
Kyndryl, IT-Dienstleisterin für unternehmenskritische Systeme, hat die Ergebnisse seiner dritten jährlichen State of Mainframe Modernization Survey veröffentlicht. Die Studie zeigt, wie Unternehmen die Schlüsselrolle des Mainframes in einer sich rasant wandelnden digitalen Landschaft neu definieren. Sie verdeutlicht, dass Firmen auf flexible Modernisierungsstrategien setzen, KI im großen Maßstab nutzen und den Einsatz des Mainframes in hybriden IT-Umgebungen ausweiten - und das trotz Fachkräftemangel und wachsender Regulierung.
Cloud Security Posture Management
Tenable veröffentlichte kürzlich ihren State of Cloud and AI Security 2025 Report, aus dem hervorgeht, dass das rasante Wachstum von Hybrid-, Multi-Cloud- und KI-Systemen schneller voranschreitet als die Entwicklung von Cloud-Sicherheitsstrategien, sodass neue Ebenen an Komplexität und Risiken entstehen.
Nutzung von GenAI-Applikationen
Nutanix, Spezialistin für Hybrid Multicloud Computing, hat die Ergebnisse der siebten Ausgabe ihrer jährlichen Studie Enterprise Cloud Index (ECI) für Deutschland vorgestellt. Demnach teilen deutsche Unternehmen generell die Prioritäten ihrer Kollegen in EMEA und weltweit bei Einführung und Umsetzung von generativer künstlicher Intelligenz (GenAI) und Containerisierung. Sie setzen jedoch im Detail abweichende Schwerpunkte und erwarten einen längeren Zeithorizont, bis sich Investitionen in GenAI-Projekte rechnen. Hauptgründe dafür sind offenbar Bedenken hinsichtlich Sicherheit und Datenschutz sowie der in Deutschland immer stärker spürbare Fachkräftemangel.
Fähigkeiten im Bereich Responsible AI
Das Infosys Knowledge Institute (IKI), ein Forschungszweig von Infosys veröffentlichte ihre aktuelle Studie über den verantwortungsvollen Einsatz von KI in Unternehmen. Für den "Responsible Enterprise AI in the Agentic Era" Report wurden mehr als 1.500 Führungskräfte in Deutschland, Frankreich, Großbritannien, den USA und Australien befragt und interviewt. Die Umfrage zeigt deutliche Lücken in der Fähigkeit von Organisationen, künstliche Intelligenz verantwortungsbewusst einzusetzen. 78 Prozent der Unternehmen betrachten Responsible AI als Motor für ihr Wachstum. Doch nur zwei?Prozent haben geeignete Kontrollen implementiert, um Reputationsrisiken und finanzielle Verluste zu vermeiden.
Lückenhafte Datensicherung birgt Risiken
Hycu hat die Ergebnisse einer aktuellen Studie veröffentlicht, die unter Anwaltskanzleien und Fachleuten aus dem Rechtsbereich durchgeführt wurde. Während Anwaltskanzleien zunehmend auf Cloud-basierte Anwendungen umsteigen, zeigen die Ergebnisse der neuen globalen Umfrage, dass es erhebliche Wissenslücken hinsichtlich der Verantwortlichkeiten im Bereich Datensicherung gibt. Laut dem in Kürze erscheinenden Bericht "State of SaaS Resilience 2025" glauben 85 Prozent der IT-Entscheidungsträger im Bereich Unternehmens- und freiberufliche Dienstleistungen, einschließlich Rechtsdienstleistungen, dass native SaaS-Plattformen wie iManage Cloud, Microsoft 365, DocuSign und Box eine umfassende Datensicherung bieten.
Skepsis gegenüber SaaS
Die IT-Modernisierung zählt seit Jahren zu den Top-Prioritäten von CIOs - allerdings gibt es aufgrund der hohen Komplexität oft nur geringe Fortschritte. Der Druck zur IT-Modernisierung ist jedoch höher denn je, denn je häufiger veraltete Anwendungslandschaften auf moderne digitale Technologien treffen, desto stärker werden ihre technischen und wirtschaftlichen Grenzen sichtbar. Management und Fachbereiche erkennen daher zunehmend die Notwendigkeit von Modernisierungsmaßnahmen.
Cloud-Angriffe werden schneller und intelligenter
Sysdig, Anbieterin von Cloud-Sicherheit in Echtzeit, hat ihren aktuellen Cloud Defense Report 2025 veröffentlicht. Der Bericht enthält Erkenntnisse und Prognosen über die entscheidende Rolle von KI, Open Source und Transparenz durch Runtime Insights (Laufzeit-Analysen) im Kontext aktueller Cloud-Bedrohungen. Die Datengrundlage stammt aus einer sorgfältigen und methodisch fundierten Analyse von Millionen von Cloud-Konten und Kubernetes-Containern, die Sysdig-Kunden täglich betreiben und sichern. Die repräsentative Stichprobe umfasst eine Vielzahl von Cloud-affinen Branchen auf der ganzen Welt.
Interne IT-Dienstleister: Umsätze steigen
Interne IT-Dienstleister von Unternehmen und Organisationen in Deutschland verzeichnen 2024 ein Wachstum von durchschnittlich rund 10 Prozent und gewinnen im Kontext der digitalen Transformation an Bedeutung. Im Fokus stehen dabei der Wandel zum datengetriebenen Unternehmen, die Entwicklung KI-basierter Anwendungen, die IT-Modernisierung, das Vorantreiben der Prozessautomatisierung sowie die Kompensation des Fachkräftemangels und des demografischen Wandels durch digitale Technologien.
Risiken im Zusammenhang mit KI kaum versichert
Künstliche Intelligenz (KI) ist längst in deutschen Unternehmen im Dienstleistungssektor voll angekommen - das zeigt eine aktuelle Umfrage zu Nutzung, Chancen und Risiken von KI, die im Auftrag von Hiscox durchgeführt wurde. Befragt wurden Anwendende sowie (Mit-) Entscheider über den Einsatz von KI.
Investitionen beginnen sich auszuzahlen
Rockwell Automation hat die deutschen Ergebnisse ihres 10. jährlichen Berichts zur intelligenten Fertigung vorgestellt. Die Daten zeigen, dass der Fertigungssektor erhebliche Investitionen und Erträge in generative KI tätigt, aber immer noch mit Herausforderungen wie ungleichmäßiger Personalentwicklung und unzureichend genutzten Daten zu kämpfen hat.

Anstieg der Sicherheitsvorfälle in der Cloud Befragung zur hybriden Cloud

Fachbeiträge: Hintergrund

Künstliche Intelligenz in der Cloud
Die Giganten der Tech-Branche planen in diesem Jahr mehr als 300 Milliarden US-Dollar auszugeben, um im KI-Wettrüsten wettbewerbsfähig zu bleiben. Allein Amazon hat über 100 Milliarden US-Dollar angekündigt, während Microsoft, Alphabet und Meta jeweils weitere Dutzende Milliarden für den Bau riesiger Rechenzentren, den Ausbau von GPU-Clustern und die Sicherung ihrer Dominanz im Bereich der Cloud-basierten KI ausgeben wollen. Investitionen in dieser Größenordnung sorgen für Schlagzeilen und viele Unternehmen, die selbst dabei sind, ihre KI-Strategie zu planen, sehen sich gezwungen, ihrerseits hohe Budgets einzuplanen. Für die meisten Unternehmen ist es jedoch weder praktikabel noch notwendig, den Plänen der Hyperscaler zu folgen. IT-Führungskräfte fragen sich deshalb zurecht, was für den Einsatz der KI im Unternehmen tatsächlich benötigt wird.
Tape hat ausgedient, Public Cloud ist verzichtbar
Zwei in der Datensicherung eingesetzte Technologien stehen derzeit bei vielen Unternehmen und Behörden auf dem Prüfstand. Bei Tape sind mit der Einführung von LTO-10 die Verbindungen zu Vorgängergenerationen komplett abgeschnitten worden, was eine vollständige Migration aller Systeme und Daten notwendig macht. Die Public Cloud entpuppt sich in vielen Fällen als wesentlich teurer als angenommen und zudem bestimmen rechtlichen Bedenken hinsichtlich Datenschutz und Datenhoheit die Diskussion.

Fachbeiträge: Grundlagen

Beispiel für die 3-2-1-Backup-Regel
Die 3-2-1-Backup-Regel ist ein einfacher, aber wirkungsvoller Ansatz zur Datensicherung. Diese Strategie gewährleistet, dass Daten unter nahezu allen Umständen sicher und wiederherstellbar sind. Sie minimiert Risiken und maximiert die Ausfallsicherheit, indem mehrere Kopien der Daten an verschiedenen Orten aufbewahrt werden. Interessant wird das Thema jedoch, wenn Cloud-Ressourcen bzw. Cloud-Tools mieteinbezogen werden.
Cloud-Repatriierung richtig planen
Lange galt die Cloud als Endpunkt der IT-Modernisierung. Doch mit dem Aufkommen rechenintensiver KI-Workloads, neuen regulatorischen Pflichten und intransparenten Kostenmodellen stellt sich für viele Unternehmen die Frage neu: Welche Workloads gehören wirklich in die Cloud und welche besser zurück ins eigene Rechenzentrum? Dieser Leitfaden gibt Orientierung für die Rückverlagerung geschäftskritischer Anwendungen.

IT Security

Ausbau strategischer Partnerschaften
Armis, das Unternehmen für Cyber-Exposure Management und -Sicherheit, hat einen weiteren wichtigen Meilenstein bekannt gegeben: Der jährliche wiederkehrende Umsatz (ARR) hat die Marke von 300 Millionen US-Dollar überschritten - ein Wachstum von 200 auf 300 Millionen in weniger als zwölf Monaten.
Schutz für Private-Cloud-Workloads
Scale Computing gab eine strategische Partnerschaft mit Bitdefender bekannt. Ziel der Kooperation ist es, fortschrittlichen, integrierten Schutz vor Bedrohungen für private Cloud- und Edge-Umgebungen bereitzustellen. Die neue gemeinsame Lösung kombiniert die selbstheilende Automatisierung und Virtualisierungstechnologie von Scale Computing Hypercore (SC//Hypercore) mit Bitdefender GravityZone, einer führenden Endpoint-Protection-Plattform (EPP). Unternehmen profitieren dadurch von mehrschichtigem Schutz für Workloads, virtuelle Desktops und Daten - unabhängig vom Standort. Gemeinsam bieten beide Unternehmen einen klaren Weg, moderne IT-Umgebungen sicherer, einfacher und effizienter zu gestalten, ohne die Performance zu beeinträchtigen.

IT Security - Angriffe & Lecks

Neue Backdoor im Einsatz
Seit Mitte 2024 beobachten die Bitdefender Labs ein neues Muster bösartiger gezielter Attacken mit dem Ziel, langfristigen Zugriff auf die Opfernetze zu erlangen. Die neuen Akteure, von Bitdefender Curly COMrades benannt, unterstützen offensichtlich russische Interessen und attackieren Unternehmen und Betreiber kritischer Infrastrukturen. Die Opfer befinden sich vor allem in Krisengebieten der aktuellen Geopolitik - darunter Justiz- und Regierungsbehörden in Georgien sowie Energieversorgungsunternehmen in Moldawien.
Attacke gegen Krypto-Währungen
Sicherheitsforscher von Check Point sind einer weiteren Attacke gegen Krypto-Währungen auf die Spur gekommen. Betrügerische Werbeanzeigen über Social Media, die sich als vermeintliche Apps und Finanzdienstleister ausgeben, sollen Nutzer in die Falle locken. Die Kampagne läuft erfolgreich, vor allem in der Europäischen Union, mit über 35000 verseuchten Werbeanzeigen.

IT Security - Fachbeiträge

Malware in Dokumenten
Die Digitalisierung des Finanzsektors und die Verarbeitung großer Mengen sensibler Daten machen Finanzdienstleister zunehmend zur Zielscheibe für Cyberkriminelle. Angreifer setzen dabei auf bewährte Methoden wie Social Engineering, Phishing oder Ransomware, um Systeme zu kompromittieren, Informationen abzugreifen, Unternehmen zu erpressen oder Betriebsstörungen zu verursachen. Besonders häufig wählen sie Angriffspfade, die sich im Arbeitsalltag etabliert haben. Mit Malware infizierte Dokumente stellen immer noch eine oft unterschätzte Bedrohung dar. Der folgende Beitrag erläutert die Gefahr, die von diesem Angriffsvektor ausgeht und wie ein mehrschichtiger Schutzansatz die Cybersicherheit im Finanzumfeld stärken kann.
Aufgaben einer DORA-Compliance lösen
Der Digital Operational Resilience Act (DORA), welcher am 17. Januar 2025 in Kraft getreten ist, betrifft nicht nur Anbieter von Finanzdiensten, sondern auch deren IT-Dienstleister: Dazu gehören sowohl Partner und Distributoren, aber auch indirekte IT-Dienstanbieter, wie die Anbieter von IT-Sicherheitsplattformen. Der Kreis der Unternehmen, für die sich aus dem Gesetz neue Hausaufgaben ergeben, ist also größer als vermutet. Für alle ist DORA aber eine Chance, die Resilienz ihrer IT-Infrastruktur gegen Cyberangriffe jetzt zu erhöhen.

IT Security - Tipps / Hintergrund / Wissen

Grenze des Risikomanagements
Mit der KI befinden wir uns an einem interessanten Wendepunkt, an dem neue Möglichkeiten Gestalt annehmen: Lebensrettende Fortschritte im Gesundheitswesen und im Transportwesen sowie die Nachbildung von Persönlichkeiten des öffentlichen Lebens, wie der verstorbenen Suzanne Somers, sind keine Science-Fiction mehr. Gleichzeitig waren die Sicherheitsbedenken in Bezug auf KI noch nie so groß wie heute. Es besteht ein enormer Bedarf an mehr Bewusstsein und Schutz vor Cyberkriminellen, die in KI-Systeme und -Tools eindringen. Zwar kann KI zur Bekämpfung dieser Betrüger eingesetzt werden, doch ist ein gemischter Ansatz, bei dem herkömmliche Tools mit KI kombiniert werden, die effektivere Strategie.
Sicherheit in die Entwicklung integrieren
Der zunehmende Einsatz von KI-gestützten Tools in der Softwareentwicklung verspricht schnelleres Programmieren, weniger Routineaufgaben und eine gesteigerte Produktivität. Eine aktuelle Analyse von Armis Labs zeigt jedoch, welche Sicherheitsrisiken entstehen, wenn sich Entwickler zu stark auf KI-generierten Code verlassen - insbesondere dann, wenn manuelle Prüfungen entfallen und automatisierte Vorschläge ungeprüft übernommen werden.