Abbildung 1Aus „Vertrauen in Algorithmen verändert sich mit der Aufgabe“
Die Karte für aufgabenbezogenes Algorithmusvertrauen
Behandle Nutzung als aufgaben- und erfahrungsabhängige Entscheidung. Gib keine universelle Vertrauenszahl frei.
Abbildung 1Die Karte für aufgabenbezogenes Algorithmusvertrauen
| Prüffeld | Beispielgrenze | Zulässige Interpretation | Stoppsignal |
|---|---|---|---|
| Aufgabencharakter | Objektiv, subjektiv oder gemischt | „Nutzung wird für diese Aufgabe geprüft.“ | Von einer Aufgabe wird auf alle Aufgaben geschlossen. |
| Beobachtete Leistung | Kein beobachteter Fehler oder sichtbarer Fehler | „Diese Erfahrung kann die Nutzung beeinflussen.“ | Ein Fehler gilt als Beweis allgemeiner Unterlegenheit. |
| Beratungsquelle | Algorithmisch, menschlich oder unbekannt bezeichnet | „Die Quellenbezeichnung gehört zum Entscheidungskontext.“ | Quellenbezeichnungen fehlen, während Einstellungen verglichen werden. |
| Expertise und Vergleich | Eigene Schätzung, menschlicher Vergleich oder kein direkter Konkurrent | „Die Reaktion ist durch Vergleich und Expertise begrenzt.“ | Novizen und Experten werden gleich behandelt. |
| Freigabefrage | Welche Nutzungsentscheidung steht an? | „Nutzen, prüfen, überstimmen oder testen.“ | „Nutzende vertrauen dem Algorithmus“ ist das Endergebnis. |
Bei breiten Tabellen horizontal wischen oder scrollen.
Quelle: Eigene Entscheidungslogik auf Grundlage von Castelo, Bos und Lehmann (2019), Dietvorst, Simmons und Massey (2015) sowie Logg, Minson und Moore (2019). Die Fragen sind synthetisch und bewerten kein aktuelles System.
Quelle und Evidenz
Jede Zeile nennt eine Aussage zu dieser Abbildung, ihre Quelle und die Art ihrer Prüfung.
- A CBL19-C1 Across four online laboratory studies with more than 1,400 participants and two online field studies with more than 56,000, reliance moved with perceived task character: "They find that algorithms are trusted and relied on less for tasks that seem subjective (vs. objective) in nature"Castelo, Bos & Lehmann. (2019)
- A CBL19-C2 Consumers trusted and used algorithms less for tasks perceived as subjective than for tasks perceived as objective.Castelo, Bos & Lehmann. (2019)
- A CBL19-C3 And the perception is malleable: "increasing a task"'"s perceived objectivity increases trust in and use of algorithms for that task"Castelo, Bos & Lehmann. (2019)
- A DSM15-C1 The aversion is triggered by observation, in the authors' words: "We show that people are especially averse to algorithmic forecasters after seeing them perform, even when they see them outperform a human forecaster", across "In 5 studies, participants either saw an algorithm make forecasts, a human make forecasts, both, or neither"Dietvorst, Simmons & Massey. (2015)
- A DSM15-C2 Participants lost confidence in an algorithm more quickly than in a human after the two made the same mistake, even when the algorithm had outperformed the human.Dietvorst, Simmons & Massey. (2015)
- A DSM15-C3 The mechanism they give: "This is because people more quickly lose confidence in algorithmic than human forecasters after seeing them make the same mistake"Dietvorst, Simmons & Massey. (2015)
- A LMM19-C1 The opposite finding, and its comparison: "results from six experiments show that lay people adhere more to advice when they think it comes from an algorithm than from a person", including "forecasts about the popularity of songs and romantic attraction"Logg, Minson & Moore. (2019)
- A LMM19-C2 Algorithm appreciation appeared in numeric estimates and forecasts, including song popularity and romantic attraction judgments.Logg, Minson & Moore. (2019)
- A LMM19-C3 And its limits, in the same abstract: "Algorithm appreciation persisted when advice appeared jointly or separately", but weakened when "people chose between an algorithm"'s estimate and their own, or when participants had forecasting expertiseLogg, Minson & Moore. (2019)
Prüfgrade: A, gegen die gedruckte Seite der Primärquelle geprüft · B, Primärquelle, nur Textebene · C, belastbare Sekundärquelle · D, berichtet.
Aus dem Beitrag
Aus der Forschung
Vertrauen in Algorithmen verändert sich mit der Aufgabe
Algorithmusvertrauen hängt von der Aufgabe ab: Prüfe Objektivität, beobachtete Fehler, Beratungsquelle, Expertise und Nutzung vor dem Urteil.
Den Beitrag lesenDiese Abbildung gehört zu einem Essay: Die Zahlen stehen hier, das Argument dort.
Zitieren oder einbetten
Verwandte Abbildungen
Tabelle 1Tabelle
Warum muss die Systembewertung bei der Aufgabenstruktur und nicht beim KI-Label beginnen?
Vertrauen in Algorithmen verändert sich mit der Aufgabe
Abbildung 2Grafik
Die Trigger-Ressource-Entscheidungskarte
Szenarioplanung beginnt, wenn ein Trigger eine Ressource verschiebt
Abbildung 2Grafik
Ein Blatt für die Entscheidung über das Zusammenfassen
Was ist das Simpson-Paradoxon?
Kontakt
Schicken Sie die Frage, an der Sie arbeiten.
Forschung, ein Gastvortrag oder eine Frage aus der Praxis.