[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"blog-article-yak-pereviriaty-avtomatyzovani-rishennia-de":3},{"uuid":4,"title":5,"subtitle":6,"content":7,"preview":398,"date_published":403,"date_pinned":403,"img":404,"alias":405,"is_published":406,"is_pinned":407,"type":13,"category":408,"category_name":409,"category_alias":410,"background_color":411,"preview_icon":13,"category_value":412,"external_link":13},"9856d0d1-8e56-449c-9c81-3e3fb214a410","Wie man die Fähigkeit entwickelt, Entscheidungen automatisierter Systeme zu überprüfen","Wie man lernt, die Empfehlungen automatisierter Systeme zu überprüfen: von der Fragestellung und Datenerhebung bis zur Fehleranalyse und verantwortungsvollen Überprüfung der Entscheidung.",{"type":8,"content":9},"doc",[10,18,23,31,36,41,47,52,66,72,77,82,88,101,106,112,117,122,128,133,138,144,149,154,160,165,170,176,181,192,198,203,208,214,219,224,230,235,240,246,251,256,262,267,272,278,283,288,294,299,304,309,314,320,325,330,336],{"type":11,"attrs":12,"content":14},"paragraph",{"align":13},null,[15],{"text":16,"type":17},"Das System hat einen Schüler als förderbedürftig markiert. Die Lehrkraft sieht eine fundierte Empfehlung und eine kurze Erklärung, weiß aber nicht, welche Daten zugrunde liegen und was die Markierung bedeutet. Reicht das für ein Eingreifen aus? Die Fähigkeit, eine automatisierte Entscheidung zu überprüfen, beginnt mit dem Verständnis der Aufgabe, der Eingangsdaten und der Folgen des Fehlers. Das Drücken des Bestätigungsbuttons oder das Lesen der Erklärung bedeutet keine sinnvolle menschliche Kontrolle.","text",{"type":11,"attrs":19,"content":20},{"align":13},[21],{"text":22,"type":17},"Diese Fähigkeiten sind nicht nur für Entwickler wichtig. Auch Lehrkräfte, Koordinatoren, Redakteure oder Manager können das Ergebnis des Systems in ihrer Arbeit akzeptieren. Sie müssen nicht immer alle technischen Details des Modells kennen, aber sie müssen die richtigen Fragen stellen, die verfügbaren Informationen prüfen und die Grenzen ihrer eigenen Kompetenz erkennen können. Das Training sollte Übungen zu diesen Vorgehensweisen anhand sicherer Beispiele bieten, in denen die Entscheidung mit einer unabhängigen Grundlage verglichen und die getroffene Wahl erläutert werden kann.",{"type":24,"attrs":25,"content":28},"heading",{"align":13,"level":26,"id":27},2,"heading_2_1",[29],{"text":30,"type":17},"Geben Sie genau an, was das System entscheidet.",{"type":11,"attrs":32,"content":33},{"align":13},[34],{"text":35,"type":17},"Die Empfehlung kann eine Vorhersage, eine Klassifizierung, eine Rangfolge oder die Anwendung einer vorgegebenen Regel sein. Diese Ergebnisse haben unterschiedliche Bedeutungen. „Aufmerksamkeit erforderlich“ bedeutet nicht zwangsläufig „lernunfähig“, und eine niedrige Rangfolge beweist nicht zwangsläufig die Nichterfüllung der Mindestanforderung. Bitten Sie den Teilnehmer in der Übung, die Systemausgabe in einfacher Sprache zu formulieren, ohne eine versteckte Schlussfolgerung hinzuzufügen. Er soll erläutern, welche Frage das Ergebnis beantwortet und welche nicht ausreichend.",{"type":11,"attrs":37,"content":38},{"align":13},[39],{"text":40,"type":17},"Nennen Sie anschließend eine menschliche Handlung, die durch das Ergebnis unterstützt werden kann. Prüfen Sie beispielsweise den technischen Zugriff, bieten Sie zusätzliche Erläuterungen an oder eröffnen Sie einen Fall zur inhaltlichen Prüfung. Vermeiden Sie einen nahtlosen Übergang von einem Signal zu einer Sanktion. Wenn das System für die frühzeitige Unterstützung konzipiert ist, verändert die Verwendung der persönlichen Bewertung als endgültige Beurteilung die Aufgabe. Solche Übergänge sollten in Trainingsszenarien erkannt werden, bis sie zur Arbeitsweise eines realen Teams werden.",{"type":24,"attrs":42,"content":44},{"align":13,"level":26,"id":43},"heading_2_2",[45],{"text":46,"type":17},"Berücksichtigen Sie den gesamten Lösungsweg.",{"type":11,"attrs":48,"content":49},{"align":13},[50],{"text":51,"type":17},"Im Modell können Fehler auftreten: ein falsch verknüpfter Datensatz, ein veralteter Status, ein übersehener Versuch oder eine mehrdeutige Felddefinition. Prüfen Sie zunächst die Herkunft der Eingabedaten. Gehören sie zur richtigen Person und zum richtigen Zeitraum? Bedeutet Null Nichterfüllung oder keinen Datensatz? Wenn diese Unterschiede nicht erkennbar sind, kann selbst eine technisch korrekte Berechnung eine falsche Aktion begünstigen. Der Teilnehmer sollte lernen, den Inhalt des Datensatzes zu prüfen und nicht nur die von der Benutzeroberfläche angezeigte Zahl zu wiederholen.",{"type":11,"attrs":53,"content":54},{"align":13},[55,57,64],{"text":56,"type":17},"In ",{"text":58,"type":17,"marks":59},"NIST AI RMF 1.0",[60],{"type":61,"attrs":62},"link",{"href":63,"title":13},"https:\u002F\u002Fdoi.org\u002F10.6028\u002FNIST.AI.100-1",{"text":65,"type":17}," Risiken werden im Kontext des gesamten Lebenszyklus und der Nutzung des Systems betrachtet. Zeichnen Sie für eine Übung einen einfachen Ablauf: Quelle, Aufbereitung, Verarbeitung, Ergebnisdarstellung, menschliches Eingreifen. Fragen Sie bei jedem Übergang nach einem möglichen Fehler und der Person, die ihn beheben kann. Dies hilft, zu vermeiden, dass ein einzelner Benutzer alles technisch überprüfen muss, und stellt gleichzeitig sicher, dass bekannte Probleme nicht ohne verantwortlichen Lösungsanbieter bleiben.",{"type":24,"attrs":67,"content":69},{"align":13,"level":26,"id":68},"heading_2_3",[70],{"text":71,"type":17},"Finden Sie eine von der Empfehlung unabhängige Grundlage.",{"type":11,"attrs":73,"content":74},{"align":13},[75],{"text":76,"type":17},"Wenn eine Person zunächst eine vorgefertigte Schlussfolgerung sieht, kann es ihr schwerer fallen, eine eigene Bewertung abzugeben. Schlagen Sie für einige Übungen vor, den Fall zunächst anhand der Quellmaterialien zu analysieren und anschließend die Systemausgabe zu öffnen. Der Vergleich zeigt, wo sich die Lösung geändert hat und ob eine neue Grundlage hinzugekommen ist. Betrachten Sie jede Abweichung nicht als Beweis für die Richtigkeit der menschlichen Entscheidung. Es ist notwendig, beide Optionen anhand vereinbarter Kriterien zu prüfen und sich nicht allein aufgrund der Tatsache, wer die Schlussfolgerung verfasst hat, für eine Seite zu entscheiden.",{"type":11,"attrs":78,"content":79},{"align":13},[80],{"text":81,"type":17},"Grundlage kann ein Dokument, eine Kontrollberechnung, eine Fachregel oder eine Expertenprüfung sein. Wichtig ist, dass sie tatsächlich zusätzliche Informationen liefert. Die erneute Bestätigung des Ergebnisses durch dasselbe System ist kein unabhängiger Beweis. Der Teilnehmer muss erklären, warum die gewählte Methode den möglichen Fehler erkennen kann. Wenn das System die Originaldatensätze vertauscht hat, hilft eine verständlichere Erklärung der Formel nicht, die richtige Person zu ermitteln oder den fehlenden Versuch wiederherzustellen.",{"type":24,"attrs":83,"content":85},{"align":13,"level":26,"id":84},"heading_2_4",[86],{"text":87,"type":17},"Erklärung ist nicht gleichbedeutend mit Korrektheit.",{"type":11,"attrs":89,"content":90},{"align":13},[91,93,99],{"text":92,"type":17},"Das System kann eine plausible Begründung liefern, die die Gültigkeit der Schlussfolgerung jedoch nicht bestätigt. ",{"text":94,"type":17,"marks":95},"Eine Studie von Buçinca, Malaya und Gajos",[96],{"type":61,"attrs":97},{"href":98,"title":13},"https:\u002F\u002Farxiv.org\u002Fabs\u002F2102.09692",{"text":100,"type":17}," untersuchte die übermäßige Akzeptanz von KI-Ratschlägen und Möglichkeiten zur Förderung einer sinnvollen Überprüfung. Die Ergebnisse eines einzelnen Experiments bedeuten nicht, dass eine einzige Änderung der Benutzeroberfläche für alle Zielgruppen geeignet ist. Sie erinnern uns daran, dass die Verfügbarkeit einer Erklärung und die tatsächliche Qualität der menschlichen Steuerung unterschiedliche Dinge sind, die getrennt bewertet werden müssen.",{"type":11,"attrs":102,"content":103},{"align":13},[104],{"text":105,"type":17},"Geben Sie zur Übung zwei plausible Erklärungen an, von denen eine auf dem falschen Feld basiert. Lassen Sie den Studierenden die Eingabereferenzen überprüfen und die Lücke finden. Bewerten Sie seine Handlung, nicht sein generelles Misstrauen gegenüber der Automatisierung. Ständiges Ablehnen aller Ratschläge ist ebenfalls keine kompetente Steuerung. Ziel ist es, eine bestimmte Lösung je nach Aufgabe und verfügbaren Informationen angemessen zu akzeptieren, zu ändern oder abzulehnen.",{"type":24,"attrs":107,"content":109},{"align":13,"level":26,"id":108},"heading_2_5",[110],{"text":111,"type":17},"Unterscheiden Sie zwischen Fehlertypen.",{"type":11,"attrs":113,"content":114},{"align":13},[115],{"text":116,"type":17},"In einer einfachen Klassifizierung gibt es mindestens zwei verschiedene unerwünschte Fälle: Das System meldet ein Problem, wo keines besteht, oder es übersieht es, wo eines besteht. Ihre Konsequenzen hängen vom Prozess ab. Ein übermäßig freundlicher Supportanruf und eine unangemessene Zugriffsbeschränkung haben unterschiedliche Auswirkungen. Benennen Sie daher die Handlung zunächst nach dem Signal. Ohne dies bleibt die Diskussion über akzeptable Fehlerraten abstrakt und kann die tatsächlichen Auswirkungen auf die Nutzer verschleiern.",{"type":11,"attrs":118,"content":119},{"align":13},[120],{"text":121,"type":17},"Bitten Sie die Teilnehmenden, ihre fiktiven Fälle in vier Gruppen einzuteilen: korrekt positive und negative Ergebnisse, falsch positive Ergebnisse und Auslassungen. Anschließend sollen sie erläutern, wie mit jeder Gruppe in einem bestimmten Prozess verfahren werden sollte. Dadurch wird die Kennzahl mit der Arbeit verknüpft. Wenn der Fokus ausschließlich auf der Gesamtgenauigkeit liegt, bemerkt das Team möglicherweise nicht, dass das System entweder seltene, wichtige Fälle übersieht oder zu viele unnötige Prüfungen durchführt, um diese zu unterstützen.",{"type":24,"attrs":123,"content":125},{"align":13,"level":26,"id":124},"heading_2_6",[126],{"text":127,"type":17},"Berücksichtigen Sie die Häufigkeit des Ereignisses.",{"type":11,"attrs":129,"content":130},{"align":13},[131],{"text":132,"type":17},"Betrachten wir ein rein didaktisches Beispiel. Unter tausend fiktiven Fällen gibt es zwanzig, die tatsächlich geprüft werden müssen. Das System findet achtzehn davon und markiert neunundvierzig weitere fälschlich. Von den siebenundsechzig markierten Fällen erfüllen somit nur achtzehn die Bedingung. Diese Zahlen erklären die Rechnung und stammen nicht aus einem realen Dienst. Sie zeigen, warum eine hohe Erkennungsrate der gesuchten Fälle nicht bedeutet, dass jede einzelne Meldung mit nahezu sicherer Wahrscheinlichkeit richtig ist.",{"type":11,"attrs":134,"content":135},{"align":13},[136],{"text":137,"type":17},"Bitten Sie die Studierenden, die Tabelle selbstständig zu rekonstruieren und den Unterschied zwischen dem Prozentsatz der gefundenen Treffer und dem Prozentsatz der korrekten Signale zu erläutern. Ändern Sie anschließend die Häufigkeit des Ereignisses, während Sie die anderen bedingten Merkmale beibehalten. Lassen Sie die Studierenden vorhersagen, wie sich dies auf die Arbeitsbelastung der Tester auswirkt. Diese Übung hilft ihnen, Kennzahlen anhand absoluter Zahlen und eines spezifischen Prozesses zu interpretieren. Sie bietet außerdem eine Grundlage, um dem Anbieter spezifische Fragen zu den Auswertungsdaten und den Grenzen der Übertragbarkeit der behaupteten Ergebnisse auf andere Zielgruppen zu stellen.",{"type":24,"attrs":139,"content":141},{"align":13,"level":26,"id":140},"heading_2_7",[142],{"text":143,"type":17},"Testen Sie den Schwellenwert und seine Auswirkungen.",{"type":11,"attrs":145,"content":146},{"align":13},[147],{"text":148,"type":17},"Wenn das System die Bewertung anhand eines Schwellenwerts in eine Kategorie umwandelt, ändert sich das Verhältnis von Treffern zu Fehltreffern. Bitten Sie die Teilnehmenden, verschiedene Schwellenwerte anhand fiktiver Daten zu vergleichen. Es ist wichtig zu erklären, wie sich der Überprüfungsprozess verändert und welche Fehler häufiger auftreten. Verlangen Sie keine allgemeingültige Bestzahl. Die Akzeptanz hängt vom Zweck, den Folgen und den Ressourcen der Überprüfung ab sowie davon, ob der Fehler erkannt und korrigiert werden kann, bevor er sich auf eine Person auswirkt.",{"type":11,"attrs":150,"content":151},{"align":13},[152],{"text":153,"type":17},"Grenzfälle sollten gesondert betrachtet werden. Zwei nahezu identische Ergebnisse können in unterschiedliche Kategorien fallen, selbst wenn die Daten keine Grundlage für die Beschreibung von Personen als grundlegend verschieden bieten. Die Benutzeroberfläche sollte helfen, diese Grenze zu erkennen, falls sie für die Entscheidung relevant ist. In einer Übung sollte die Person gebeten werden, eine verständliche Aussage zu einem solchen Ergebnis zu formulieren, ohne dabei übermäßig selbstsicher zu sein. Eine exakte Zahl auf dem Bildschirm bedeutet nicht immer die entsprechende Genauigkeit des Wissens über die reale Situation.",{"type":24,"attrs":155,"content":157},{"align":13,"level":26,"id":156},"heading_2_8",[158],{"text":159,"type":17},"Ergebnisse unter verschiedenen Bedingungen vergleichen",{"type":11,"attrs":161,"content":162},{"align":13},[163],{"text":164,"type":17},"Ein Ergebnis in einem Datensatz garantiert nicht die gleiche Leistung nach Änderung der Zielgruppe, der Sprache, der Erhebungsmethode oder des Untersuchungsprozesses. Die Teilnehmenden sollten fragen können, anhand welcher Fälle das System evaluiert wurde und ob diese den aktuellen Fällen ähneln. Für die Übung sollten zwei Beispiele mit unterschiedlichen Auslassungen oder Definitionen vorbereitet werden. Die Studierenden sollen herausfinden, warum der Vergleich fehlerhaft sein könnte, noch bevor der komplexe Algorithmus oder die Gründe für eine bestimmte Empfehlung besprochen werden.",{"type":11,"attrs":166,"content":167},{"align":13},[168],{"text":169,"type":17},"Ziehen Sie keine voreiligen Schlüsse aus einer Gruppe zufälliger Beobachtungen. Sind die Daten unzureichend, dokumentieren Sie die Einschränkungen und den Bedarf an weiterer Überprüfung. Der Gesamtdurchschnitt sollte jedoch nicht automatisch ein signifikantes Problem in einzelnen Anwendungsfällen verschleiern. Eine verhältnismäßige Analyse unter Berücksichtigung der Datenqualität ist erforderlich. Schulungen sollten die Fähigkeit fördern, ein zu berücksichtigendes Signal von einer voreiligen Schlussfolgerung zu unterscheiden, für die noch nicht ausreichend Beweise vorliegen.",{"type":24,"attrs":171,"content":173},{"align":13,"level":26,"id":172},"heading_2_9",[174],{"text":175,"type":17},"Definieren Sie die Grenzen der menschlichen Überprüfung.",{"type":11,"attrs":177,"content":178},{"align":13},[179],{"text":180,"type":17},"Die Person muss über ausreichend Informationen, Zeit und Befugnisse verfügen, um das Ergebnis zu beeinflussen. Andernfalls bleibt ihre Beteiligung am Prozess möglicherweise formal. Fragen Sie sich im Szenario: Kann der Prüfer die Quelldaten einsehen? Kann er um Klärung bitten? Darf er die Empfehlung ablehnen? Wenn die Entscheidung bereits automatisch getroffen wurde und die Folgen nicht mehr aufzuhalten sind, bietet ein nachträgliches Klicken nicht dieselbe Kontrolle wie eine Überprüfung vor einer wichtigen Maßnahme.",{"type":11,"attrs":182,"content":183},{"align":13},[184,190],{"text":185,"type":17,"marks":186},"Die OECD-Prinzipien für KI",[187],{"type":61,"attrs":188},{"href":189,"title":13},"https:\u002F\u002Foecd.ai\u002Fen\u002Fai-principles",{"text":191,"type":17}," umfassen Transparenz, Zuverlässigkeit und Rechenschaftspflicht. Im Curriculum sollten diese Leitlinien in einen konkreten Fallablauf umgesetzt werden. Wer erhält die Anfrage, welche Kriterien werden geprüft und wer berichtet über das Ergebnis? Dies ist eine Beschreibung des Prozessablaufs, keine Aussage darüber, dass die rechtlichen Anforderungen in allen Situationen gleich sind. Für eine verantwortungsvolle Anwendung müssen Sie die tatsächliche Arbeitsweise einer bestimmten Organisation und die Befugnisse ihrer Beteiligten kennen.",{"type":24,"attrs":193,"content":195},{"align":13,"level":26,"id":194},"heading_2_10",[196],{"text":197,"type":17},"Kurze Dokumentation der Prüfung üben",{"type":11,"attrs":199,"content":200},{"align":13},[201],{"text":202,"type":17},"Bitten Sie die Studierenden, die erste Empfehlung, die geprüften Kriterien, das festgestellte Problem und die endgültige Lösung schriftlich festzuhalten. Ergänzen Sie ein ungelöstes Problem, falls es die Gültigkeit der Schlussfolgerung verändert. Dies ist oft ausreichend für eine Fallstudie. Sie müssen nicht für jeden einfachen Auslöser einen langen Bericht erstellen, aber die entscheidenden Änderungen sollten für eine andere Person klar erkennbar sein. Die Dokumentation hilft, eine echte Überprüfung von einer Genehmigung zu unterscheiden, die keine Grundlage für eine weitere Analyse der Prozessqualität bietet.",{"type":11,"attrs":204,"content":205},{"align":13},[206],{"text":207,"type":17},"Verwenden Sie fiktive oder sorgfältig aufbereitete Daten und ein Minimum an Datensätzen. Das Trainingsprotokoll sollte keine unnötigen persönlichen Anekdoten enthalten. Enthält das Beispiel sensible Informationen, ist es ratsam, ein Situationsmodell zu erstellen, das die Logik des Fehlers beibehält, ohne eine reale Person nachzubilden. Ziel der Übung ist es, die Fähigkeit zur Überprüfung der Lösung zu demonstrieren, nicht die Authentizität durch die unnötige Offenlegung von Informationen über Studierende, Mitarbeitende oder Kunden zu beweisen.",{"type":24,"attrs":209,"content":211},{"align":13,"level":26,"id":210},"heading_2_11",[212],{"text":213,"type":17},"Bauen Sie die Übung auf einem Datenfehler auf.",{"type":11,"attrs":215,"content":216},{"align":13},[217],{"text":218,"type":17},"Im ersten Szenario wendet das System die Regel korrekt an, erhält aber einen veralteten Ausführungsstatus. Die Teilnehmenden sollen die Zeitabweichung bemerken, die Quelle überprüfen und die nächste Aktion benennen. Fordern Sie sie nicht auf, den vom Dozenten beabsichtigten versteckten Fehler zu erraten. Stellen Sie ausreichend Material zur Verfügung, um das Problem zu identifizieren: das Aktualisierungsdatum, den Einreichungsdatensatz und die Verarbeitungsregel. Dies ermöglicht es uns, die tatsächliche Arbeit am Beweis zu bewerten, anstatt intuitiv eine Fehlfunktion in einem fiktiven System zu erraten.",{"type":11,"attrs":220,"content":221},{"align":13},[222],{"text":223,"type":17},"Bitten Sie nach der Korrektur um eine Erläuterung, ob nur ein Ergebnis geändert wurde oder ob eine umfassendere Überprüfung erforderlich ist. Falls das Problem auf eine gemeinsame Ursache zurückzuführen ist, müssen ähnliche Fälle gegebenenfalls überprüft werden. Der Teilnehmer sollte den Umfang der Annahme und die verantwortliche Rolle ermitteln, ohne grundlos alle Ergebnisse als falsch zu erklären. Diese Analyse fördert das prozessorientierte Denken: Eine einzelne Korrektur ist wichtig, aber es ist ebenso wichtig zu verstehen, wie derselbe Fehler im nächsten Trainingszyklus vermieden werden kann.",{"type":24,"attrs":225,"content":227},{"align":13,"level":26,"id":226},"heading_2_12",[228],{"text":229,"type":17},"Erstellen Sie eine Übung zur Fehlinterpretation.",{"type":11,"attrs":231,"content":232},{"align":13},[233],{"text":234,"type":17},"Im zweiten Szenario gibt das System eine korrekte relative Bewertung für das gegebene Kriterium ab, der Benutzer interpretiert die letzte Position jedoch fälschlicherweise als nicht die Mindestanforderung erfüllend. Geben Sie dem Teilnehmer eine Definition des Indikators und mehrere Ergebnisse. Er sollte den Unterschied zwischen der Reihenfolge und dem Schwellenwert für die Eignung erläutern. Hier ist kein technischer Fehler zu suchen. Der Fehler tritt beim Übergang von der Zahl zur menschlichen Schlussfolgerung auf, daher betrifft die Korrektur die Interpretation, die Anweisung oder die Art der Ergebnisdarstellung.",{"type":11,"attrs":236,"content":237},{"align":13},[238],{"text":239,"type":17},"Bitten Sie die Teilnehmenden anschließend, eine kurze Nachricht für einen Kollegen zu verfassen, der diesen Indikator verwendet. Diese sollte den korrekten Wert und den erforderlichen Grenzwert enthalten, ohne den Empfänger mit technischen Details zu überfordern. Dies erfordert eine eigene Kompetenz: Die Kenntnis der richtigen Antwort allein genügt nicht, wenn das Team weiterhin die alte Erklärung verwendet. Die Überprüfung der Lösung ist abgeschlossen, wenn der nächste Teilnehmer auf der korrekten Grundlage handeln kann, und nicht erst, wenn der Fehler in den persönlichen Notizen des Prüfers auffällt.",{"type":24,"attrs":241,"content":243},{"align":13,"level":26,"id":242},"heading_2_13",[244],{"text":245,"type":17},"Erstellen Sie eine Übung auf unzureichender Grundlage.",{"type":11,"attrs":247,"content":248},{"align":13},[249],{"text":250,"type":17},"Im dritten Szenario schlägt das System eine Schlussfolgerung vor, das benötigte Feld ist jedoch nicht in den Unterlagen enthalten. Der\u002FDie Studierende sollte das Fehlen des Feldes benennen, auf das endgültige Urteil verzichten und die hilfreichste Erklärung formulieren. Es ist wichtig, dies positiv zu bewerten, wenn der Abbruch gerechtfertigt ist. Andernfalls gewöhnen sich die Teilnehmenden daran, immer das fertige Ergebnis zu präsentieren, selbst wenn es nur erraten werden kann. Die Übung soll verdeutlichen, dass Unsicherheit eine Eigenschaft der Situation ist, die korrekt vermittelt werden muss, und kein Fehler im Lösungsansatz.",{"type":11,"attrs":252,"content":253},{"align":13},[254],{"text":255,"type":17},"Bieten Sie mehrere mögliche Erklärungen an und bitten Sie die Teilnehmenden, diejenige auszuwählen, die die Lösung am stärksten verändert. Dadurch üben sie die Verhältnismäßigkeit der Überprüfung. Es ist nicht nötig, endlos neue Daten zu sammeln, insbesondere wenn diese persönlicher Natur sind oder die Fragestellung nicht betreffen. Nach Erhalt eines kritischen Fakts kehrt der\u002Fdie Teilnehmende zur Lösung zurück und erläutert die Änderung. Die Lehrkraft bewertet den Zusammenhang zwischen der neuen Grundlage und der Schlussfolgerung, nicht die Anzahl der Fragen oder die Länge der vorbereiteten Erklärung.",{"type":24,"attrs":257,"content":259},{"align":13,"level":26,"id":258},"heading_2_14",[260],{"text":261,"type":17},"Bewerten Sie die Qualität der Überprüfung anhand neuer Fälle.",{"type":11,"attrs":263,"content":264},{"align":13},[265],{"text":266,"type":17},"Mischen Sie für die Abschlussarbeit korrekte Empfehlungen mit verschiedenen Fehlertypen. Der\u002FDie Teilnehmende sollte nicht wissen, dass jedes Beispiel zwangsläufig ein Problem enthält. Andernfalls lernt er\u002Fsie, selbst dort nach einem versteckten Fehler zu suchen, wo die Lösung gerechtfertigt ist. Bitten Sie die Teilnehmenden, das Ergebnis zu akzeptieren, zu ändern oder abzulehnen und begründen Sie Ihre Entscheidung. Beurteilen Sie die Fähigkeit, in verschiedenen Situationen angemessen zu handeln, insbesondere dann, wenn eine automatisierte Empfehlung tatsächlich hilfreich ist und zusätzliche Nachfragen kurz und prägnant sein sollten.",{"type":11,"attrs":268,"content":269},{"align":13},[270],{"text":271,"type":17},"Die Bewertungskriterien können das Verständnis der Aufgabe, die Wahl einer unabhängigen Begründung, die korrekte Interpretation und die Verhältnismäßigkeit der nachfolgenden Maßnahmen umfassen. Bewerten Sie die Kompetenz nicht anhand des Ausmaßes der Uneinigkeit mit dem System. Eine hohe Uneinigkeit kann sowohl Aufmerksamkeit als auch eine unberechtigte Ablehnung signalisieren. Es ist wichtig zu berücksichtigen, wie viele richtige und falsche Entscheidungen die Teilnehmenden identifiziert haben und ob sie die jeweiligen Fälle erläutern können. Für kleine Gruppen genügt eine inhaltliche Analyse; aussagekräftige quantitative Schlussfolgerungen erfordern einen angemessenen Umfang und eine entsprechende Gestaltung der Bewertung.",{"type":24,"attrs":273,"content":275},{"align":13,"level":26,"id":274},"heading_2_15",[276],{"text":277,"type":17},"Integrieren Sie praktische Übungen in den Lehrplan.",{"type":11,"attrs":279,"content":280},{"align":13},[281],{"text":282,"type":17},"Die WeStudy LMS-Plattform unterstützt die Strukturierung von Materialien, Übungen und Diskussionen. Stellen Sie für jedes Szenario ausreichend Hintergrundinformationen, Kriterien und einen separaten Bereich zur Erläuterung der Überprüfung bereit. Vermeiden Sie realistische, schwerwiegende Konsequenzen im Lernexperiment. Die Teilnehmenden sollten Fehler machen, Feedback erhalten und die sinnvolle Handlung an einem neuen Beispiel wiederholen können. So entwickeln Sie Selbstkontrolle als Kompetenz und testen nicht die Belastbarkeit in einer Situation, in der die Kosten eines Fehlers für den Lernerfolg unverhältnismäßig hoch sind.",{"type":11,"attrs":284,"content":285},{"align":13},[286],{"text":287,"type":17},"Bitten Sie die Teilnehmenden nach der Übung, eine Regel für ihre eigene Arbeit zu formulieren. Beispielsweise sollten sie vor einer wichtigen Handlung die Relevanz des Quellstatus prüfen oder die Definition des Indikators separat lesen. Die Regel sollte spezifisch und anwendbar sein. Ein generelles „Vertraue der KI nicht“ hilft nicht dabei, mit einer korrekten Empfehlung umzugehen. Lernziel ist eine sinnvolle Zusammenarbeit mit der Automatisierung, die die menschliche Fähigkeit bewahrt, die Gründe, Grenzen und Konsequenzen jeder Entscheidung zu erkennen.",{"type":24,"attrs":289,"content":291},{"align":13,"level":26,"id":290},"heading_2_16",[292],{"text":293,"type":17},"Prüfen Sie, ob das Team aus den Fehlern lernt.",{"type":11,"attrs":295,"content":296},{"align":13},[297],{"text":298,"type":17},"Gruppieren Sie nach einigen Übungen die Ursachen der Abweichungen: Daten, Metrikdefinition, unpassender Kontext oder falsche Folgeaktion. Reduzieren Sie nicht alles auf eine einzige Zahl wie „KI-Fehler“. Unterschiedliche Ursachen erfordern unterschiedliche Änderungen. Ein veralteter Status wird im Datenaustausch korrigiert, eine mehrdeutige Metrik in Definition und Erklärung, und ein Machtmissbrauch im Entscheidungsprozess. Diese Klassifizierung hilft dem Team, sich auf die Behebung des wiederkehrenden Problems zu konzentrieren.",{"type":11,"attrs":300,"content":301},{"align":13},[302],{"text":303,"type":17},"Bitten Sie die Teilnehmenden, eine Änderung vorzuschlagen und eine Methode zu entwickeln, um deren Wirkung zu testen. Fügen Sie beispielsweise das Gültigkeitsdatum eines Feldes hinzu und prüfen Sie, ob sich dadurch Zeitabweichungen in neuen Beispielen leichter erkennen lassen. Gehen Sie nicht davon aus, dass zusätzliche Informationen die Kontrolle automatisch verbessern. Zu viele Details können das Hauptproblem verschleiern. Vergleichen Sie das Verhalten anhand aussagekräftiger Fälle und beschränken Sie den Umfang der Präsentation auf das, was im Rahmen der verfügbaren Zeit und der Fachkompetenz des Prüfers eine fundierte Entscheidung ermöglicht.",{"type":11,"attrs":305,"content":306},{"align":13},[307],{"text":308,"type":17},"Besprechen Sie die Arbeitsbelastung gesondert. Wenn eine Person so viele Ergebnisse prüfen muss, dass sie die relevanten Materialien nicht mehr lesen kann, löst die Anweisung „Sorgfältiger prüfen“ das organisatorische Problem nicht. Die Warteschlange, der Automatisierungsgrad, der Aufgabenumfang oder die Kontrollressourcen müssen angepasst werden. Das Schulungsprogramm sollte diese Grenze aufzeigen: Persönliche Aufmerksamkeit ist wichtig, aber ein qualitativ hochwertiger Prozess erfordert auch die Möglichkeit zum Handeln. Andernfalls wird die Verantwortung dem Prüfer formal übertragen, ohne dass die notwendigen Voraussetzungen für die Erfüllung dieser Rolle gegeben sind.",{"type":11,"attrs":310,"content":311},{"align":13},[312],{"text":313,"type":17},"Wiederholen Sie nach der Änderung die Prüfung anhand neuer Fälle, einschließlich der korrekten Empfehlungen. Vergleichen Sie, ob der spezifische Fehler zurückgegangen ist und ob andere unerwünschte Verzerrungen aufgetreten sind. Beschreiben Sie das Ergebnis in der Übung. Ein kleiner Lernerfolg beweist nicht die Eignung des Prozesses für ein reales System. Es zeigt jedoch, dass der Teilnehmer in der Lage ist, Problem, Maßnahme und Nachweis der Veränderung miteinander zu verknüpfen, was eine sinnvolle Grundlage für die weitere fachliche Praxis bildet.",{"type":24,"attrs":315,"content":317},{"align":13,"level":26,"id":316},"heading_2_17",[318],{"text":319,"type":17},"Verantwortlichkeit während des gesamten Prozesses sicherstellen.",{"type":11,"attrs":321,"content":322},{"align":13},[323],{"text":324,"type":17},"Wenn das WeStudy LMS Teil des Programms ist, sollte die Verifizierungspraxis mit Fachwissen und einem klaren Weg zum strittigen Fall kombiniert werden. Die Beispiele sollten aktualisiert werden, wenn sich Daten, Kennzahlen oder die Systemnutzung ändern. Die Kompetenz wird durch die erneute Unterscheidung spezifischer Situationen entwickelt, nicht durch das Auswendiglernen allgemeiner Vorbehalte. Die Person sollte erklären können, warum die Empfehlung dieses Mal angenommen, geändert oder verschoben wurde und welche Gründe die endgültige Entscheidung beeinflusst haben.",{"type":11,"attrs":326,"content":327},{"align":13},[328],{"text":329,"type":17},"Ein nützliches Lernergebnis ist ein Prüfer, der seine eigenen Grenzen erkennt und weiß, an wen er sich bei Fragen wenden kann. Er ist nicht verpflichtet, alle technischen, inhaltlichen und organisatorischen Probleme selbst zu lösen. Er sollte jedoch erkennen, wenn die verfügbaren Beweise nicht ausreichen, und diesen Mangel nicht durch eine formale Genehmigung verschleiern. Dann wird die menschliche Kontrolle zu einem wesentlichen Bestandteil der Prozessqualität: Sie kann das Ergebnis in eine sinnvolle Handlung umsetzen und eine klare Grundlage für die weitere Verbesserung des Systems und der Schulungspraxis schaffen.",{"type":24,"attrs":331,"content":333},{"align":13,"level":26,"id":332},"heading_2_18",[334],{"text":335,"type":17},"Quellen",{"type":337,"content":338},"bullet_list",[339,352,364,375,386],{"type":340,"content":341},"list_item",[342],{"type":11,"attrs":343,"content":344},{"align":13},[345,350],{"text":346,"type":17,"marks":347},"NIST: Rahmenwerk für das Risikomanagement in der Künstlichen Intelligenz 1.0",[348],{"type":61,"attrs":349},{"href":63,"title":13},{"text":351,"type":17},".",{"type":340,"content":353},[354],{"type":11,"attrs":355,"content":356},{"align":13},[357,363],{"text":358,"type":17,"marks":359},"NIST: Ressourcen zum Rahmenwerk für das Risikomanagement in der Künstlichen Intelligenz",[360],{"type":61,"attrs":361},{"href":362,"title":13},"https:\u002F\u002Fwww.nist.gov\u002Fitl\u002Fai-risk-management-framework",{"text":351,"type":17},{"type":340,"content":365},[366],{"type":11,"attrs":367,"content":368},{"align":13},[369,374],{"text":370,"type":17,"marks":371},"Buçinca, Malaya, Gajos: Vertrauen oder Nachdenken?",[372],{"type":61,"attrs":373},{"href":98,"title":13},{"text":351,"type":17},{"type":340,"content":376},[377],{"type":11,"attrs":378,"content":379},{"align":13},[380,385],{"text":381,"type":17,"marks":382},"OECD: KI-Prinzipien",[383],{"type":61,"attrs":384},{"href":189,"title":13},{"text":351,"type":17},{"type":340,"content":387},[388],{"type":11,"attrs":389,"content":390},{"align":13},[391,397],{"text":392,"type":17,"marks":393},"UNESCO: Empfehlung zur Ethik der Künstlichen Intelligenz",[394],{"type":61,"attrs":395},{"href":396,"title":13},"https:\u002F\u002Fwww.unesco.org\u002Fen\u002Fartificial-intelligence\u002Frecommendation-ethics",{"text":351,"type":17},{"type":8,"content":399},[400],{"type":11,"content":401},[402],{"text":6,"type":17},1791392525,"https:\u002F\u002Fcloud.cs3.westudy.ua\u002Ffile?path=westudy_online%2Fpublic%2Fwestudy%2F0340f72b-5da2-43ab-8c3e-f9f356057ac3.webp","yak-pereviriaty-avtomatyzovani-rishennia",true,false,"1a2266a8-143b-428a-8320-d3f66d0468bb","Майбутнє освіти та навички","future-of-education-and-skills","light","news.articles"]