Gartner Security & Risk Management Summit 2023 National Harbor: Höhepunkte von Tag 3

„Es gibt bereits zahlreiche KI-Modelle, die operativ umgesetzt wurden und kompromittiert und angegriffen werden können. Eine Gartner-Umfrage aus dem Jahr 2021 ergab, dass 73 % der Unternehmen bereits Hunderte oder Tausende von KI-Modellen im Einsatz hatten.“

„Kompromittierungen und Angriffe erstrecken sich über alle Phasen des KI-Lebenszyklus, einschließlich Datenvergiftung, Datenschutzbedenken, Manipulation von Modellergebnissen sowie Missbrauch, Kompromittierung oder Diebstahl von Modellen oder Daten.“

„Es gibt zwei häufige Fehleinschätzungen über KI-Sicherheitsbedrohungen: Die meisten KI-Angriffe werden nur von Außenstehenden durchgeführt, sodass wir nicht nach innen schauen müssen; und die meisten KI-Angriffe sind kompliziert, also sollten wir uns nicht um die kleinen Dinge kümmern.“

„CISOs und KI-Teams nehmen Risiken, die von KI ausgehen, unterschiedlich wahr. KI-Teams gehen davon aus, dass KI-Risiken mit größerer Wahrscheinlichkeit eintreten und machen sich insgesamt mehr Sorgen um das KI-Risiko. Es kommt nicht alle Tage vor, dass sich jemand mehr Sorgen um Informationsrisiken macht als das Sicherheitsteam.“

„AI TRiSM trägt dazu bei, Governance, Vertrauenswürdigkeit, Fairness, Zuverlässigkeit, Datenschutz, Sicherheit und Compliance von KI-Lösungen sicherzustellen und unkontrollierte Risiken in verwaltete Risiken umzuwandeln.“

„Bis 2026 werden Organisationen, die KI-Transparenz, -Vertrauen und -Sicherheit implementieren, mit ihren KI-Modellen eine 50-prozentige Ergebnisverbesserung in Bezug auf Akzeptanz, Geschäftsziele und Benutzerakzeptanz erzielen.“

Erfahren Sie mehr über AI TRiSM im Gartner Q&A „Why Trust and Security are Essential for the Future of Generative AI.“