Künstliche Intelligenz in der Sicherheitstechnik: Potenziale und Fallstricke

In den letzten Jahren hat sich die Technologie der künstlichen Intelligenz (KI) rasant weiterentwickelt und ist in vielen Bereichen unseres Alltags zu einem festen Bestandteil geworden. Eines der Gebiete, auf denen KI eine zunehmend wichtige Rolle spielt, ist die Sicherheitstechnik. Hier verspricht sie effizientere und intelligentere Lösungen für die Erkennung von Waffen und anderen gefährlichen Gegenständen. Evolv Technology, ein Unternehmen, das intelligente Waffenscanner entwickelt, geriet kürzlich in die Schlagzeilen, als es seine Behauptungen über die Prüfung seiner Technologie durch die britische Regierung zurückziehen musste.

Evolv Technology behauptete ursprünglich, dass seine KI-basierten Waffenscanner von der britischen National Protective Security Authority (NPSA) getestet wurden. Das Unternehmen gab an, dass die Scanner, die dazu konzipiert sind, Metalldetektoren zu ersetzen und Personen mit verborgenen Waffen wie Pistolen, Messern und Bomben zu identifizieren, eine hohe Wirksamkeit bei der Erkennung dieser Gegenstände aufweisen. Diese Behauptung war Teil einer Pressemitteilung vom 20. Februar.

Die BBC deckte jedoch auf, dass die NPSA solche Tests gar nicht durchführt. Nach Rücksprache mit der NPSA aktualisierte Evolv die Formulierungen in der Pressemitteilung, um den tatsächlich durchgeführten Prozess genauer abzubilden. Anstelle der NPSA hatte ein unabhängiges Unternehmen, Metrix NDT, die Technologie von Evolv getestet und validiert, wobei die Standards der NPSA verwendet wurden. Metrix NDT stellte allerdings klar, dass es nicht korrekt sei zu sagen, dass das System "validiert" wurde.

Die Kritik an Evolv Technology entzündete sich nicht nur an den übertriebenen Behauptungen hinsichtlich der staatlichen Tests, sondern auch an der Zuverlässigkeit der Scanner selbst. Trotz der ursprünglichen Behauptungen, dass die Technologie "Signaturen" von versteckten Waffen erkennen könne – einschließlich der metallischen Zusammensetzung, Form und Zerstückelung – stellte sich heraus, dass die Scanner nicht zuverlässig Messer oder bestimmte Arten von Bomben erkennen konnten. Eine durch das Sicherheitsanalyse-Unternehmen Internet Protocol Video Market (IPVM) initiierte Untersuchung enthüllte, dass Tests in einer US-Einrichtung ergaben, dass Evolvs Technologie nicht konsistent Messer und bestimmte Bombentypen detektieren konnte.

Diese Entwicklungen werfen Fragen auf bezüglich der Verantwortlichkeit und der Regulierung von Unternehmen, die Sicherheitstechnologien entwickeln und vermarkten. Experten wie Prof. Marion Oswald, die bis letztes Jahr im Beratungsgremium des Centre of Data Ethics and Innovation der Regierung tätig war, betonen die Notwendigkeit einer genaueren Prüfung und möglicher zusätzlicher Regulierung von Unternehmen, die derartige Behauptungen aufstellen. Sie äußerte Bedenken darüber, wie Kunden beeinflusst werden könnten, insbesondere wenn Behauptungen über die Beteiligung bestimmter Regierungsbehörden gemacht werden.

Die Kontroverse um Evolv Technology ist ein Beispiel dafür, wie wichtig Transparenz und Verantwortlichkeit in der sich schnell entwickelnden Welt der KI-basierten Sicherheitstechnik sind. Während die Technologie das Potenzial hat, Sicherheitsmaßnahmen zu verbessern und effizienter zu gestalten, müssen Verbraucher und Aufsichtsbehörden darauf vertrauen können, dass die von ihnen verwendeten Systeme zuverlässig und nachprüfbar sind. Diese Vorfälle unterstreichen die Bedeutung von unabhängigen Tests und der Überprüfung von Marketingaussagen, um sicherzustellen, dass die Sicherheitstechnologie, die in öffentlichen Bereichen wie Flughäfen, Stadien und Schulen zum Einsatz kommt, tatsächlich wirksam ist und die öffentliche Sicherheit nicht gefährdet wird.

Quellen:
- BBC News: https://www.bbc.co.uk/news/technology-68547574
- IPVM: https://ipvm.com/reports/evolv-3rd-party-test.html
- Yahoo Finance: https://au.finance.yahoo.com/news/behold-truckbot-232613547.html
- The Guardian: https://www.theguardian.com/technology/2016/oct/25/airport-body-scanner-artificial-intelligence