Halluzinationen – das Erfinden von Fakten durch KI-Modelle – sind das größte Vertrauensproblem bei KI-Chatbots. PERIMETRIK® löst dieses Problem durch konsequente Einschränkung des Wissenshorizonts und präzises Prompt-Design.
Einschränkung des Wissenshorizonts
Der entscheidende Unterschied zu einem allgemeinen ChatGPT-Bot: Der PERIMETRIK®-Chatbot hat keinen Zugriff auf allgemeines Weltwissen. Er sieht ausschließlich den übergebenen Kontext aus definierten WordPress-Inhalten (Seiten, FAQs, Angebote, Produkte). Was nicht in diesem Pool steht, kann er nicht beantworten – und soll es auch nicht.
Prompt-Design als Schutzschicht
Der System-Prompt ist so formuliert, dass der Chatbot bei fehlenden Informationen nicht raten oder ergänzen darf. Stattdessen wird er angewiesen: „Wenn die Antwort nicht in den bereitgestellten Informationen enthalten ist, leite den Nutzer an [Kontaktformular/Support] weiter.“ Diese Anweisung wird bei jeder Anfrage mitgegeben und kann nicht durch Nutzer-Prompts ausgehebelt werden.
Prompt Injection verhindern
PERIMETRIK® implementiert zusätzlich Schutzmaßnahmen gegen Prompt Injection – Versuche von Nutzern, den Chatbot durch manipulative Eingaben dazu zu bringen, seinen System-Prompt zu ignorieren. Reguläre Nutzeranfragen können die Sicherheitsanweisungen nicht überschreiben.
Das Ergebnis ist ein Chatbot, der keine Fakten erfindet, auf dem eigenen Wissensbestand bleibt und bei Unsicherheit sicher weiterleitet – statt zu halluzinieren.