Microsoft wird Open Source zum AI Security Assessment Tool von Counterfit

Microsoft hat sein Open-Source-Tool zur Bewertung des AI-Sicherheitsrisikos Counterfit auf Open Source umgestellt, sodass jeder das Tool kostenlos nutzen kann. Derzeit können Unternehmen Counterfit verwenden, um Sicherheitsrisikobewertungen zu automatisieren und sicherzustellen, dass der von ihnen verwendete Schutz auf dem neuesten Stand ist.

Microsoft veröffentlicht Counterfit als Open-Source-Tool

Microsoft hat Counterfit ursprünglich als internes Tool entwickelt, mit dem die Sicherheit von KI- und maschinellen Lernsystemen schnell bewertet werden kann. Es begann als eine Sammlung von Skripten, bevor es sich schnell in eine generische KI-Automatisierung verwandelte, mit der ein Bediener "mehrere KI-Systeme gleichzeitig angreifen" kann.

Microsoft verwendet Counterfit jetzt regelmäßig als Kernwerkzeug für den Betrieb seiner roten KI-Teams. Da Counterfit umwelt-, modell- und datenunabhängig ist, kann das Tool eine präzise Bewertung ohne Impedanz liefern.

Das Tool selbst ist für die Verwendung durch Sicherheitsexperten konzipiert. Counterfit verwendet ähnliche Workflows wie andere beliebte Red-Team-Tools wie Metasploit oder PowerShell Empyre und bietet umfassende Unterstützung für Skripte, vorinstallierte Angriffsalgorithmen, Schwachstellenüberprüfung, erweiterte Protokollierung und mehr, auf die über die Befehlszeile zugegriffen werden kann.

Microsoft hat intensiv mit Sicherheitsexperten und großen Organisationen zusammengearbeitet, um Counterfit ebenfalls besser zu entwickeln. Auf dem Microsoft Security-Blog sagte Matilda Rhode, Senior Cybersecurity Researcher bei Airbus:

KI wird zunehmend in der Industrie eingesetzt. Es ist wichtig, vorausschauend auf die Sicherung dieser Technologie zu schauen, insbesondere um zu verstehen, wo Feature-Space-Angriffe im Problemraum realisiert werden können. Die Veröffentlichung von Open-Source-Tools von einer Organisation wie Microsoft für Sicherheitspraktiker zur Bewertung der Sicherheit von KI-Systemen ist sowohl zu begrüßen als auch ein klarer Hinweis darauf, dass die Branche dieses Problem ernst nimmt.

Sie finden das Open-Source- Microsoft Counterfit auf dem offiziellen GitHub.

Verwandte: Jobs, von denen Sie nie wussten, dass sie von AI ausgeführt wurden

Warum ist Counterfit nützlich?

Selbst für ein Unternehmen von der Größe von Microsoft ist es nicht einfach, effektive Sicherheitsbewertungen durchzuführen, insbesondere wenn es sich bei diesen Unternehmen um enorme Fortune 500-Führungskräfte, Regierungen, gemeinnützige Organisationen und mehr handelt. Eine frühere Microsoft-Studie ergab, dass eine große Anzahl von Unternehmen ihre KI-Systeme nicht genau testen kann.

Wir haben festgestellt, dass 25 von 28 Unternehmen angaben, nicht über die richtigen Tools zur Sicherung ihrer KI-Systeme zu verfügen, und dass Sicherheitsexperten in diesem Bereich nach spezifischen Anleitungen suchen.

Counterfit erleichtert die Durchführung dieser Bewertungen und automatisiert den Analyse- und Testprozess.

Verwandte Themen: Möglichkeiten, wie Sie mithilfe der KI-Technologie Ihr Geschäft verbessern können

Darüber hinaus wurde in einer kürzlich veröffentlichten Gartner-Studie die Einführung der KI-Sicherheit als eine der wichtigsten Sicherheitsmaßnahmen aufgeführt, die ein Unternehmen zur Verbesserung des Schutzes ergreifen kann. In derselben Studie wurde festgestellt, dass "bis 2024 Organisationen, die spezielle KI-Risikomanagementkontrollen implementieren, negative KI-Ergebnisse doppelt so oft erfolgreich vermeiden können wie solche, die dies nicht tun."

Kurz gesagt, Counterfit als Open-Source-Tool zur Bewertung der KI-Sicherheit sollte dazu beitragen, die Welt etwas sicherer zu machen.