Die Prinzipien

Alles, was einen Menschen, ein Dokument oder ein anderes System erreicht, ist standardmäßig deterministisch: parsebar, reproduzierbar und aus seinen Eingaben rekonstruierbar. Komponenten des maschinellen Lernens bleiben auf begrenzte Aufgaben beschränkt. Die Grenze steht im Code und nicht in einem Diagramm: Eine probabilistische Komponente liefert einen Wert, eine Konfidenz und die Methode, mit der der Wert gewonnen wurde, nie einen nackten Wert. Der nackte Wert ist der Fehler, den dieses Prinzip verhindert, denn ein nackter Wert lässt sich weder blockieren noch offenlegen noch prüfen.

Dieses Prinzip hinterfragenÖffentliches Feedback zu diesem Prinzip

Konfidenz hängt an einem einzelnen Attribut, nicht an einem Dokument. Ein Dokument ist nicht als Ganzes richtig oder falsch; jede Tatsache darin ist für sich gut oder schlecht belegt, und ein einziger Wert für die Datei verdeckt genau das. Es gibt drei Stufen. Die unterste erreicht nie eine veröffentlichte Ausgabe; sie geht stattdessen an einen Menschen. Wo es überhaupt keinen Nachweis gibt, gibt es keinen Wert: Die Ausgabe sagt, dass der Wert nicht verfügbar ist, und schätzt ihn niemals.

Dieses Prinzip hinterfragenÖffentliches Feedback zu diesem Prinzip

Die Prüfung wird durch Konfidenz ausgelöst, nicht durch einen Zeitplan und nicht dadurch, dass jemand etwas bemerkt. Sie findet auf Attributebene statt: Die prüfende Person sieht eine Tatsache und die Stelle der Quelle, aus der sie stammt, nebeneinander, und entscheidet über diese eine Tatsache. Ein abgelehnter Wert lässt das Attribut leer. Das System füllt es nie mit einem zweiten Versuch, denn der Grund für die Prüfung war, dass der Nachweis nicht ausreichte, und ein Raten repariert das nicht.

Dieses Prinzip hinterfragenÖffentliches Feedback zu diesem Prinzip

Beim Eingang eines Dokuments entsteht eine einzige Kennung, und sie begleitet alles, was danach geschieht: jeden Verarbeitungsschritt, jede Konfidenzbewertung, jede menschliche Entscheidung und die veröffentlichte Ausgabe. Die Spur wächst nur an, eine spätere Zeile berichtigt eine frühere, und nichts wird umgeschrieben. Eine Abfrage rekonstruiert die Kette von einer veröffentlichten Ausgabe zurück zu den Dokumenten, auf denen sie ruht, und die Kette lässt sich als JSON exportieren, für jemanden, der das System nicht gebaut hat.

Dieses Prinzip hinterfragenÖffentliches Feedback zu diesem Prinzip

Jedes Attribut trägt die Methode, mit der es gewonnen wurde. Wenn irgendein Attribut einer veröffentlichten Ausgabe durch Texterkennung oder durch ein Sprachmodell gelesen wurde, trägt die Ausgabe eine sichtbare Zeile, die das sagt und die betroffenen Attribute nennt. Die Zeile steht auf dem Dokument, das eine Leserin gerade ansieht, nicht in Metadaten, die sie erst suchen müsste.

Dieses Prinzip hinterfragenÖffentliches Feedback zu diesem Prinzip

Eine Leitplanke, die in einem Dokument steht, ist ein Ratschlag. Eine Leitplanke, die in der Pipeline läuft und eine Auslieferung stoppt, ist ein Fence. Fences fallen in vier Kategorien: Daten, Architektur, Text und Prozess. Jeder hat eine Kennung, eine Regel und eine Durchsetzungsmethode. Ein Fence verdient seinen Platz erst durch einen Zahnbeweis: Der echte Fehler wird eingebaut, der Fence schlägt an, und der Einbau wird Byte für Byte zurückgenommen. Ein Fence, den niemand je hat scheitern sehen, ist ein Kommentar mit einem Testrunner daneben.

Dieses Prinzip hinterfragenÖffentliches Feedback zu diesem Prinzip

Klassifikationssysteme, Terminologiedatenbanken und externe Validierungsdienste leben in Adaptermodulen, als solche gekennzeichnet, außerhalb des Kerndatenmodells. Ein externer Dienst kann die Konfidenz eines Attributs erhöhen. Keiner von ihnen kann eine Ausgabe blockieren: Ist ein Dienst nicht erreichbar, erzeugt das System einen schwächer belegten Nachweis statt gar keinen, und ändert sich eine Lizenz, bleibt der Kern unberührt. Lizenzierte Inhalte sind in ihren Metadaten gekennzeichnet und vom offenen Kern getrennt.

Dieses Prinzip hinterfragenÖffentliches Feedback zu diesem Prinzip

Die Regeln, an denen eine Entscheidung gemessen wird, sind Daten. Die Engine, die sie auswertet, ändert sich nicht, wenn sich eine Regel ändert. Ein Entscheidungssatz ist an die Version des Regelwerks gebunden, die ihn erzeugt hat, und verlängert damit die Spur aus P-4 in die Herkunft der Regeln hinein. Autonomie ist eine Eigenschaft der Regeln und nicht des Codes: Wie viel das System ohne Menschen tun darf, wird je Rechtsraum und je Risikoklasse gesetzt, und es übersteigt nie die Obergrenze, die das Recht dort zieht. Sie anzuheben, wo das Recht es zulässt, ist eine Regeländerung mit festgehaltener Rechtsgrundlage, nie eine Abspaltung des Codes.

Dieses Prinzip hinterfragenÖffentliches Feedback zu diesem Prinzip