Forbes-Studie über Ethik im Einsatz von KI

Der verantwortungsvolle Umgang mit KI wird im Business-Umfeld immer wichtiger – das zeigt auch eine aktuelle Studie von Forbes Insights.  Immer deutlicher wird Eines: KI hat Auswirkungen auf den Alltag aller Verbraucher. Umso wichtiger ist ein ethischer Rahmen, wie ihn auch Rumman Chowdhury als KI-Verantwortlicher bei Accenture Applied Intelligence fordert:

„Unternehmen haben damit begonnen, Bedenken und Fehltritte im Zusammenhang mit KI zu adressieren. Das ist eine positive Entwicklung, reicht aber nicht aus. Benötigt werden vorausschauende, spezifische und technische Richtlinien für die Entwicklung von KI-Systemen, die sicher, transparent, nachvollziehbar und in den Verantwortlichkeiten klar zuzuordnen sind. Denn nur so lassen sich unerwartete Konsequenzen und Compliance-Herausforderungen vermeiden, die Einzelpersonen, dem Geschäft und der Gesellschaft schaden. Data Scientists brauchen solche Richtlinien dringend.“

Führende KI-Unternehmen erkennen auch den Zusammenhang zwischen dem erfolgreichen Einsatz dieser Technologie und Analytics. 79 Prozent dieser „Leaders“ geben an, dass Analytics eine entscheidende Rolle für KI in ihrem Unternehmen spielt; dies sagen nur 14 Prozent von den bisher weniger erfolgreichen KI-Anwendern.

„Diejenigen, die KI implementiert haben, verstehen, dass Erfolg mit KI und Erfolg mit Analytics eng zusammenhängen“, erklärt Oliver Schabenberger, COO und CTO von SAS. „Für diese Unternehmen spielt Analytics bereits eine zentrale Rolle für KI.“

Ethik, ein grosses Wort

Demnach führen 70 Prozent der Unternehmen weltweit, die KI bereits einsetzen, ethische Trainings für ihre Mitarbeiter in der IT durch. 63 Prozent verfügen sogar über Ethikkommissionen, um den Umgang mit KI zu bewerten. Die Studie AI Momentum, Maturity and Models for Success, die Forbes Insights mit Unterstützung von SAS, Accenture Applied Intelligence und Intel durchgeführt hat, befragte 305 Business-Leaders weltweit, von denen mehr als die Hälfte Chief Information Officer, Chief Technology Officer oder Chief Analytics Officer sind.

Die Ergebnisse zeigen einen klaren Zusammenhang zwischen „Thought“ Leadership und ethischem Bewusstsein. Unternehmen, die ihre KI-Implementierung als erfolgreich bezeichnen, sind auch ganz vorne mit dabei, wenn es darum geht, Verantwortung für KI zu übernehmen: 92 Prozent der führenden KI-Unternehmen (sogenannte KI-„Leaders“) trainieren ihre Technologieexperten in ethischen Fragen, im Vergleich zu gerade mal 48 Prozent der Unternehmen, die in Sachen KI-Nutzung noch nicht soweit sind.

Vertrauen ist gut, Kontrolle ist …

Eine häufige – und falsche – Annahme ist, dass KI ohne menschliches Mitwirken funktioniere. Die Studie zeigt deutlich, dass führende KI-Unternehmen eine Kontrolle der Technologie als unerlässlich ansehen. Knapp drei Viertel (74 Prozent) berichten von mindestens wöchentlichen Reviews ihrer KI-Ergebnisse, nur 33 Prozent der KI-„Nachzügler“ führen solch regelmässige Kontrollen durch. 43 Prozent der KI-„Leaders“ haben einen Prozess, um fragwürdige Ergebnisse zu überarbeiten (bei den anderen sind dies lediglich 28 Prozent).

Insgesamt bringt der Report ans Licht, dass Kontrollprozesse noch einen weiten Weg vor sich haben, bis sie mit den Fortschritten der künstlichen Intelligenz mithalten können.

Es leuchtet ein, dass Unternehmen Massnahmen in Sachen ethischer KI ergreifen und die Kontrolle über KI behalten wollen, denn sie sind sich bewusst, dass mangelhafte Ergebnisse negativ auf sie zurückfallen können. Von den Unternehmen, die bereits KI einsetzen oder dies planen, sagen 60 Prozent aus, dass sie sich um die Auswirkungen von KI auf die Kundeninteraktion sorgen – sei es, dass ihre Aktionen weniger Empathie signalisieren oder dass Kunden ihnen weniger vertrauen könnten.

Die wichtigsten Ergebnisse der Studie auf einen Blick:

– 46 Prozent der KI-Unternehmen hat die Technologie bereits umfassend implementiert. Andere Unternehmen sind noch in der Experimentier- oder Prototypenphase.

– Insgesamt 72 Prozent der Unternehmen setzen KI in einem oder mehreren Geschäftsbereichen ein.

– 51 Prozent der Befragten, die KI einsetzen, verweisen auf eine erleichterte Entscheidungsfindung, höhere Abschlussquoten in der Kundenakquise sowie eine Steigerung der operativen Produktivität.

– 64 Prozent bestätigen, dass sich ihre Mitarbeiter dank KI mehr auf strategische als auf operative Aufgaben konzentrieren können.

Trotz dieser positiven Effekte spüren immer noch fast 20 Prozent deutliche Widerstände ihrer Mitarbeiter aus Sorge um ihren Job. 57 Prozent der Arbeitgeber äussern konkrete Besorgnis bezüglich der Auswirkungen, die KI auf die Beziehung zu ihren Mitarbeitern haben könnte (weil Mitarbeiter sich womöglich bedroht oder überfordert fühlen könnten).

Die komplette Studie (in Englischer Fassung) steht hier zum Download bereit.