Startseite » Künstliche Intelligenz »

Studie von Capgemini: Ethische Aspekte entscheidend, um Potenzial von Künstlicher Intelligenz (KI) auszuschöpfen

Studie von Capgemini
Ethische Aspekte sind entscheidend, um KI-Potenzial auszuschöpfen

Unternehmen reagieren bei ethischen Fragestellungen in KI-Systemen zögerlich.
Unternehmen reagieren bei ethischen Fragestellungen in KI-Systemen zögerlich.
Bild: THANANIT/stock.adobe. com
Anzeige

Nur 53 Prozent der Unternehmen und Verwaltungen verfügen über eine Führungskraft, die für ethische KI-Systeme verantwortlich ist. Das Bewusstsein für ethische Fragestellungen beim KI-Einsatz ist dennoch gestiegen. Trotzdem fällt die Handlungsbilanz für Capgemini gemischt aus. In einer Studie hebt das IT-Unternehmen hervor, dass der Fokus auf ethische Aspekte entscheidend ist, um das Potenzial von KI auszuschöpfen.

Die Studie mit dem Titel „AI and the ethical Conundrum: How Organizations can build ethically robust AI Systems and gain Trust“ kommt auch zum Ergebnis, dass 72 Prozent der Ansicht sind, dass Unternehmen nicht vollständig transparent offenlegen, wie persönliche Daten verwendet werden. Für die Studie befragte das Capgemini Research Institute insgesamt 2.900 Konsumenten in sechs Ländern sowie knapp 900 Führungskräfte in zehn Ländern.

Organisationen sehen laut Studie zunehmend Handlungsbedarf hinsichtlich ethischer KI-Systeme: 45 Prozent haben 2020 eine KI-Charta definiert (2019: fünf Prozent) und 65 Prozent der Führungskräfte wissen, dass KI-Systeme potenziell diskriminierende Entscheidungen treffen können. 58 Prozent geben zudem an, ihre Mitarbeiter über die möglichen Auswirkungen der KI-Nutzung aufgeklärt zu haben.

Dennoch verzeichneten KI-Systeme 2020 in der ethischen Dimension „Erklärbarkeit“ Fortschritte gegenüber 2019, schreibt Capgemini in einer Pressemitteilung.

40 Prozent der KI-Entwickler und 27 Prozent der -Anwender aus Marketing und Vertrieb glauben nachvollziehen zu können, wie Entscheidungen durch KI getroffen werden. Auf Seiten der Verbraucher erwarten hingegen 71 Prozent, dass Unternehmen solche Entscheidungen genau herleiten können. Weiterhin setzen 66 Prozent voraus, dass KI-Modelle fair und vorurteilsfrei agieren und Interaktionen transparent ablaufen.

COVID-19 wirkt sich negativ auf Transparenz von KI-Verfahren aus

Die Studie untersucht KI-Systeme anhand der vier ethischen Dimensionen:

  • Erklärbarkeit
  • Fairness
  • Überprüfbarkeit
  • Transparenz

2020 hat sich laut Studie nur die Dimension „Erklärbarkeit“ verbessert: Demnach können mit 64 Prozent doppelt so viele Organisationen wie 2019 die Funktionsweise ihrer KI-Systeme in einfacher Sprache erklären.

Eine Überprüfung der Datensätze und KI-Systeme, um eine faire Gleichbehandlung aller Gruppen zu gewährleisten, nehmen 65 Prozent (2019: 66 Prozent) vor. Ebenfalls um einen Prozentpunkt (auf 45 Prozent) sank die Zahl der Unternehmen, die unabhängige Audits bei ihren KI-Systemen gemäß der „Überprüfbarkeit“ ethischer Aspekte durchführen.

Am stärksten ging die Anzahl an Unternehmen zurück, die KI-Anwender transparent über die möglichen Auswirkungen von KI-Entscheidungen informieren (59 Prozent, 2019: 73 Prozent; Deutschland: 52 Prozent, 2019: 63 Prozent). Dies spiegelt sich auch im gesunkenen Vertrauen der Verbraucher auf Transparenz der Unternehmen wider. (62 Prozent, 2019: 76 Prozent).

Handlungsdruck durch Kundenerwartungen und staatliche Regulierungen

Viele Institutionen haben zusätzliche KI-Technologien eingeführt, um den Folgen der Corona-Pandemie zu begegnen. Entsprechend wird das Vertrauen der Verbraucher in KI-Interaktionen künftig umso wichtiger.

Der Druck auf Unternehmen aufgrund von erhöhten gesetzlichen Rahmenbedingungen steigt zeitgleich: Die Europäischen Kommission hat ethische Leitlinien entwickelt, die US-Handelskommission FTC hat Anfang 2020 Richtlinien für eine transparente KI aufgestellt.

Von den Unternehmen geben 62 Prozent (Deutschland: 67 Prozent) an, in ihrer Region geltende Datenschutzbestimmungen wie DSGVO zu erfüllen, eine Steigerung um 13 Prozentpunkte im Vergleich zu 2019.

Künstliche Intelligenz

Die Studie zeigt, dass Datensätze mitunter tatsächlich soziale und kulturelle Vorurteile („Bias“) aufweisen, wobei sich 65 Prozent der Führungskräfte des Problems diskriminierender Verzerrungen bewusst sind. 54 Prozent der deutschen Unternehmen wurden sogar schon rechtlich geprüft.

Insgesamt 22 Prozent (Deutschland: 21 Prozent) der Unternehmen wurden in den letzten drei Jahren von Kunden damit konfrontiert, dass sie KI-basierte Entscheidungen anzweifeln oder die Entscheidungsfindung nachvollziehen wollen.

Rechenschaft für Führungskräfte in ethischen Belangen etablieren

Capgemini schlägt vor, dass Unternehmen eine verantwortliche Führungskraft, etwa einen Chief Ethics Officer, etablieren sollten, um ethisch robuste KI-Systeme sicherzustellen. Momentan ist diese Funktion in 53 Prozent der Unternehmen vorhanden.

Über einen Ombudsmann oder eine Hotline, an die sich Kunden und Mitarbeiter bezüglich ethischer Fragen zu KI-Systemen wenden können, verfügt ebenfalls nur jedes zweite Unternehmen.

Zudem sollten auch Führungskräfte der Geschäfts- wie Technologie-Ebenen gewährleisten können, dass in ihrem Bereich eingesetzte KI-Anwendungen ethische Ergebnisse liefern.

Maßnahmen zum Aufbau eines ethisch robusten KI-Systems

Capgemini hebt zusammenfassend sieben zentrale Maßnahmen hervor, die für den Aufbau eines ethisch robusten KI-Systems entscheidend sind und auf einem belastbaren Fundament aus Führung, Steuerung und internen Prozessen basieren müssen. Organisationen sollten daher:

  • den beabsichtigen Zweck des KI-Systems präzise beschreiben können und die potenzielle Gesamtwirkung ermitteln
  • KI aktiv zum Nutzen von Gesellschaft und Umwelt einsetzen
  • die Prinzipien von Vielfalt und Inklusion im gesamten Lebenszyklus der KI-Systeme verankern
  • die Transparenz mit Hilfe geeigneter Technologie-Werkzeuge optimieren
  • sicherstellen, dass KI-Erfahrungen auf den Menschen ausgerichtet sind und KI-Systeme unter menschlicher Aufsicht stehen
  • gewährleisten, dass KI-Systeme technisch robust sind
  • die Privatsphäre schützen, indem Nutzern die Kontrolle über ihre KI-Interaktionen gegeben wird

Die komplette Studie gibt es auf der Website von Capgemini zum Download. (wag)


Kontakt zu Capgemini

Capgemini Service SAS
11 rue de Tilsitt
75017 Paris, Frankreich
Tel.: +33 1 4754 5000
Website: www.capgemini.com

Ebenfalls interessant:

CC-KING will KMUs bei KI und Machine Learning unterstützen

[gravityform id="66" title="false" description="false" ajax="true"]
<div class='gf_browser_unknown gform_wrapper gpoll_enabled_wrapper gpoll_block_repeat_voters_wrapper gpoll_wrapper' id='gform_wrapper_66' style='display:none'><div id='gf_66' class='gform_anchor' tabindex='-1'></div><form method='post' enctype='multipart/form-data' target='gform_ajax_frame_66' id='gform_66' class='gpoll_enabled gpoll_block_repeat_voters gpoll' action='/top/ethische-aspekte-sind-entscheidend-um-ki-potenzial-auszuschoepfen/#gf_66'> <div class='gform_body'><ul id='gform_fields_66' class='gform_fields top_label form_sublabel_below description_below'><li id='field_66_2' class='gfield gfield_html gfield_html_formatted gfield_no_follows_desc field_sublabel_below field_description_below gfield_visibility_visible' ><h3>Welche Themen interessieren Sie auf industrie.de?</h3></li><li id='field_66_8' class='gfield field_sublabel_below field_description_below gfield_visibility_visible gpoll_field' ><label class='gfield_label' ></label><div class='ginput_container ginput_container_checkbox'><ul class='gfield_checkbox' id='input_66_8'><li class='gchoice_66_8_1'> <input name='input_8.1' type='checkbox' value='gpoll8cce079a2' id='choice_66_8_1' /> <label for='choice_66_8_1' id='label_66_8_1'>Industrie 4.0</label> </li><li class='gchoice_66_8_2'> <input name='input_8.2' type='checkbox' value='gpoll8df661a46' id='choice_66_8_2' /> <label for='choice_66_8_2' id='label_66_8_2'>Elektromobilität</label> </li><li class='gchoice_66_8_3'> <input name='input_8.3' type='checkbox' value='gpoll807ea7987' id='choice_66_8_3' /> <label for='choice_66_8_3' id='label_66_8_3'>Mobilfunkstandard 5G</label> </li><li class='gchoice_66_8_4'> <input name='input_8.4' type='checkbox' value='gpoll8871cf722' id='choice_66_8_4' /> <label for='choice_66_8_4' id='label_66_8_4'>Blockchain</label> </li><li class='gchoice_66_8_5'> <input name='input_8.5' type='checkbox' value='gpoll8c500e376' id='choice_66_8_5' /> <label for='choice_66_8_5' id='label_66_8_5'>IT-Sicherheit</label> </li><li class='gchoice_66_8_6'> <input name='input_8.6' type='checkbox' value='gpoll8547c20e2' id='choice_66_8_6' /> <label for='choice_66_8_6' id='label_66_8_6'>Ein anderes Thema, nämlich...</label> </li></ul></div></li><li id='field_66_6' class='gfield gfield_contains_required field_sublabel_below field_description_below hidden_label gfield_visibility_visible' ><label class='gfield_label' for='input_66_6' >anderes Thema<span class='gfield_required'>*</span></label><div class='ginput_container ginput_container_text'><input name='input_6' id='input_66_6' type='text' value='' class='medium' aria-required="true" aria-invalid="false" /></div></li><li id='field_66_7' class='gfield gfield_html gfield_html_formatted gfield_no_follows_desc field_sublabel_below field_description_below gfield_visibility_visible' ><br></li> </ul></div> <div class='gform_footer top_label'> <input type='submit' id='gform_submit_button_66' class='gform_button button' value='Absenden' onclick='if(window["gf_submitting_66"]){return false;} window["gf_submitting_66"]=true; ' onkeypress='if( event.keyCode == 13 ){ if(window["gf_submitting_66"]){return false;} window["gf_submitting_66"]=true; jQuery("#gform_66").trigger("submit",[true]); }' /> <input type='hidden' name='gform_ajax' value='form_id=66&amp;title=&amp;description=&amp;tabindex=0' /> <input type='hidden' class='gform_hidden' name='is_submit_66' value='1' /> <input type='hidden' class='gform_hidden' name='gform_submit' value='66' /> <input type='hidden' class='gform_hidden' name='gform_unique_id' value='' /> <input type='hidden' class='gform_hidden' name='state_66' value='WyJbXSIsIjQwMWY0MGZiN2I5MzdkZjQxYmQ1NTZmMzE5YzllZmRmIl0=' /> <input type='hidden' class='gform_hidden' name='gform_target_page_number_66' id='gform_target_page_number_66' value='0' /> <input type='hidden' class='gform_hidden' name='gform_source_page_number_66' id='gform_source_page_number_66' value='1' /> <input type='hidden' name='gform_field_values' value='' /> </div> </form> </div> <iframe style='display:none;width:0px;height:0px;' src='about:blank' name='gform_ajax_frame_66' id='gform_ajax_frame_66'>Dieser iframe enthält die erforderliche Logik um Gravity Forms Formulare mit AJAX zu handhaben.</iframe> <script type='text/javascript'>jQuery(document).ready(function($){gformInitSpinner( 66, 'https://industrie.de/wp-content/plugins/gravityforms/images/spinner.gif' );jQuery('#gform_ajax_frame_66').on('load',function(){var contents = jQuery(this).contents().find('*').html();var is_postback = contents.indexOf('GF_AJAX_POSTBACK') >= 0;if(!is_postback){return;}var form_content = jQuery(this).contents().find('#gform_wrapper_66');var is_confirmation = jQuery(this).contents().find('#gform_confirmation_wrapper_66').length > 0;var is_redirect = contents.indexOf('gformRedirect(){') >= 0;var is_form = form_content.length > 0 && ! is_redirect && ! is_confirmation;var mt = parseInt(jQuery('html').css('margin-top'), 10) + parseInt(jQuery('body').css('margin-top'), 10) + 100;if(is_form){jQuery('#gform_wrapper_66').html(form_content.html());if(form_content.hasClass('gform_validation_error')){jQuery('#gform_wrapper_66').addClass('gform_validation_error');} else {jQuery('#gform_wrapper_66').removeClass('gform_validation_error');}setTimeout( function() { /* delay the scroll by 50 milliseconds to fix a bug in chrome */ jQuery(document).scrollTop(jQuery('#gform_wrapper_66').offset().top - mt); }, 50 );if(window['gformInitDatepicker']) {gformInitDatepicker();}if(window['gformInitPriceFields']) {gformInitPriceFields();}var current_page = jQuery('#gform_source_page_number_66').val();gformInitSpinner( 66, 'https://industrie.de/wp-content/plugins/gravityforms/images/spinner.gif' );jQuery(document).trigger('gform_page_loaded', [66, current_page]);window['gf_submitting_66'] = false;}else if(!is_redirect){var confirmation_content = jQuery(this).contents().find('.GF_AJAX_POSTBACK').html();if(!confirmation_content){confirmation_content = contents;}setTimeout(function(){jQuery('#gform_wrapper_66').replaceWith(confirmation_content);jQuery(document).scrollTop(jQuery('#gf_66').offset().top - mt);jQuery(document).trigger('gform_confirmation_loaded', [66]);window['gf_submitting_66'] = false;}, 50);}else{jQuery('#gform_66').append(contents);if(window['gformRedirect']) {gformRedirect();}}jQuery(document).trigger('gform_post_render', [66, current_page]);} );} );</script><script type='text/javascript'> jQuery(document).bind('gform_post_render', function(event, formId, currentPage){if(formId == 66) {gf_global["number_formats"][66] = {"2":{"price":false,"value":false},"8":{"price":false,"value":false},"6":{"price":false,"value":false},"7":{"price":false,"value":false}};if(window['jQuery']){if(!window['gf_form_conditional_logic'])window['gf_form_conditional_logic'] = new Array();window['gf_form_conditional_logic'][66] = { logic: { 6: {"field":{"actionType":"show","logicType":"all","rules":[{"fieldId":"8","operator":"is","value":"gpoll8547c20e2"}]},"nextButton":null,"section":null} }, dependents: { 6: [6] }, animation: 0, defaults: [], fields: {"2":[],"8":[6],"6":[],"7":[]} }; if(!window['gf_number_format'])window['gf_number_format'] = 'decimal_comma';jQuery(document).ready(function(){gf_apply_rules(66, [6], true);jQuery('#gform_wrapper_66').show();jQuery(document).trigger('gform_post_conditional_logic', [66, null, true]);} );} (function(){ if (typeof window.gf_color_picker_ignore_global_css_66 === "undefined") window.gf_color_picker_ignore_global_css_66 = 0; })();(function(){ if (typeof window.gf_image_choices_ignore_global_css_66 === "undefined") window.gf_image_choices_ignore_global_css_66 = 0; })();(function(){ if (typeof window.gf_image_choices_custom_css_global === "undefined") window.gf_image_choices_custom_css_global = ".image-choices-field{max-width:100%;margin-right:-3%}.image-choices-field .image-choices-choice,.gform_wrapper .gfield.image-choices-field li.image-choices-choice{display:inline-block;position:relative;padding:13px!important;overflow:visible;margin-bottom:80px!important;border-color:#d8e3ec;transition:all .3s;border-radius:3px;width:30%;margin-right:3%!important}.image-choices-field .image-choices-choice,.image-choices-field .image-choices-choice.image-choices-choice-hover{background-color:#f6fbfd}.image-choices-field .image-choices-choice:after{content:\"\\2714\"!important;width:40px;height:40px;overflow:hidden;border-radius:50%;pointer-events:none;opacity:0;transition:all .3s;text-align:center;line-height:40px;color:#fff;display:block;position:absolute;left:50%;top:60%;margin:-20px 0 0 -20px;background-color:#00a7f7}.image-choices-field .image-choices-choice.image-choices-choice-other:after{top:70%}.image-choices-field .gfield_label{font-size:1.6em;margin-bottom:1.6em;display:block}.image-choices-field .image-choices-choice label,.gform_wrapper .gfield.image-choices-field li.image-choices-choice label{padding:0!important;display:block}.image-choices-field .image-choices-choice.image-choices-choice-focus label{border-color:#00a7f7}.image-choices-field .gfield_radio .image-choices-choice.image-choices-choice-focus.image-choices-choice-selected label{border-color:transparent}.image-choices-field .image-choices-choice-image-wrap{background-size:cover;width:100%;height:auto;padding-bottom:100%}.image-choices-field.image-choices-show-labels .image-choices-choice-text{padding:7px 13px;margin:0;position:absolute;width:100%;left:50%;transform:translateX(-50%);border-radius:20px;bottom:-50px;transition:all .3s}.image-choices-field.image-choices-show-labels .image-choices-choice-text,.image-choices-field.image-choices-show-labels .image-choices-choice-price{font-size:inherit}.image-choices-field .image-choices-choice.image-choices-choice-selected,.image-choices-field .image-choices-choice.image-choices-choice-selected.image-choices-choice-hover{box-shadow:0 0 30px 0 rgba(0,0,0,.2);border-color:#00a7f7;background-color:#fff}.image-choices-field .image-choices-choice.image-choices-choice-selected:after{color:#fff;opacity:1;top:50%}.image-choices-field .image-choices-choice.image-choices-choice-other.image-choices-choice-selected:after{top:60%}.image-choices-field .image-choices-choice.image-choices-choice-selected .image-choices-choice-text{background-color:#00a7f7;color:#fff}@media only screen and (max-width:736px){.image-choices-field .image-choices-choice,.gform_wrapper .gfield.image-choices-field li.image-choices-choice{width:48%;margin-right:2%!important}}@media only screen and (max-width:480px){.image-choices-field .image-choices-choice,.gform_wrapper .gfield.image-choices-field li.image-choices-choice{width:98%;margin-right:2%!important}}"; })();} } );jQuery(document).bind('gform_post_conditional_logic', function(event, formId, fields, isInit){} );</script><script type='text/javascript'> jQuery(document).ready(function(){jQuery(document).trigger('gform_post_render', [66, 1]) } ); </script>

Industrie.de Infoservice
Vielen Dank für Ihre Bestellung!
Sie erhalten in Kürze eine Bestätigung per E-Mail.
Von Ihnen ausgesucht:
Weitere Informationen gewünscht?
Einfach neue Dokumente auswählen
und zuletzt Adresse eingeben.
Wie funktioniert der Industrie.de Infoservice?
Zur Hilfeseite »
Ihre Adresse:














Die Konradin Verlag Robert Kohlhammer GmbH erhebt, verarbeitet und nutzt die Daten, die der Nutzer bei der Registrierung zum Industrie.de Infoservice freiwillig zur Verfügung stellt, zum Zwecke der Erfüllung dieses Nutzungsverhältnisses. Der Nutzer erhält damit Zugang zu den Dokumenten des Industrie.de Infoservice.
AGB
datenschutz-online@konradin.de