Information Retrieval – Detailed Strategies and Prompts
This section provides practical strategies and ready-to-use prompts (in XML mark-up) for AI-based information retrieval. Each topic explains a major risk, easy mitigation strategies, and a brief note on residual risk after applying those strategies.
1. Hallucinated (invented) Information
Problem: AI may invent facts or citations that appear legitimate.
Residual Risk: Moderate. Even verified sources can be taken out of context or misinterpreted; careful reading remains essential.
2. Outdated or Incomplete Information
Problem: Models without live web access may provide outdated or incomplete data.
Strategy: Use AI tools with Internet or Deep Research access. Ask explicitly for update timestamps. Verify publication years and cross-check against authoritative sources.
Find the most recent information on [topic]. Use only sources published after 2023. Include publication date and link. Indicate your last knowledge update.
Residual Risk: Moderate. Even current sources may be inaccurate or reflect transient information; manual confirmation from official sites is recommended.
3. Missing or Incorrect Citations
Problem: AI often omits or fabricates references.
Strategy: Demand complete citation details (DOI, author, journal, year). Verify each in databases such as Google Scholar or PubMed. Maintain a log of validated sources for transparency.
Compile a verifiable reference list on [topic]. For every statement, include the primary source with DOI, year, and link. Indicate which statement each source supports.
Residual Risk: Low–Moderate. Genuine citations can still be misread or only partially relevant.
4. Algorithmic Bias and Selection Effects
Problem: AI may favor overrepresented cultural or linguistic perspectives.
Strategy: Phrase prompts neutrally. Request opposing viewpoints and compare results from several models. Note regional and linguistic diversity of sources.
Analyze different perspectives on [topic]. Present at least two contrasting positions, each with one source. Identify possible bias in each source context.
Residual Risk: Moderate. Dataset bias cannot be fully removed but can be detected and discussed.
5. Faulty Code or Technical Answers
Problem: Generated code may contain logic errors or security vulnerabilities.
Strategy: Never execute AI-generated code without testing. Use linters and security scanners (SAST/DAST). Ask the AI to explain each step to reveal inconsistencies.
Review and explain code related to [topic]. Explain the function of each line, detect potential errors or vulnerabilities, and propose a safer alternative.
Residual Risk: Moderate–High. The AI lacks awareness of your specific environment, so runtime or dependency errors may persist.
6. Data Privacy and Confidentiality
Problem: Entering personal or institutional data into public AI tools can violate confidentiality agreements or data protection law.
Strategy: Avoid sharing identifiable or sensitive information. Pseudonymize or abstract content before using it. Prefer secure internal (on-premises) models run by your institution
Residual Risk: Low. Remaining exposure stems mainly from accidental inclusion of details that could indirectly identify individuals or organizations.
7. Intellectual Property and Copyright
Problem: AI outputs can include copyrighted expressions or fragments from training data.
Strategy: Avoid verbatim copying. Paraphrase and cite verified sources. Disclose AI assistance according to the regulations set by the DFG, COPE, and ICMJE.
Rephrase content responsibly. Rewrite this paragraph in your own words, avoiding copyrighted expressions. Flag any phrases likely drawn from training data.
Residual Risk: Moderate. Training data origins are opaque; inadvertent overlap may occur despite precautions.
8. False Precision e.g. in Law or Medicine
Problem: AI may produce confident yet incomplete legal or medical guidance.
Strategy: Use for orientation only. Confirm via official statutes, guidelines, or domain experts. Include jurisdiction and publication date with every claim.
Provide legal or medical context for [topic]. Use only official primary sources (e.g., statutes, guidelines) with links and publication dates. State explicitly if no primary source is available.
Residual Risk: Moderate. Official materials may vary by region or become outdated; expert review is still needed.
9. Miscontextualized News or Real-Time Information
Problem: AI can merge distinct reports or distort context.
Strategy: Check the original outlet and date; compare multiple independent reports; record timestamps.
Cross-check recent news about [topic]. Summarize facts from at least two independent outlets. Include date, medium, and link for each source.
Residual Risk: Moderate. As events evolve, previously correct summaries can become inaccurate; periodic rechecks are advised.
10. Loss of Critical Judgment
Problem: Overreliance on AI can weaken analytical habits.
Strategy: Periodically verify via manual research, formulate your own hypotheses, and seek peer feedback.
Promote critical reflection. List counterarguments to my hypothesis about [topic]. Identify which points I should verify manually.
Residual Risk: Low. The main risk is complacency; deliberate reflective practice mitigates it.
Special Case: Academic Literature Search
Recommended Tools:
Strategy: Use specialized tools such as Elicit or SciSpace for literature searches.
General-purpose tools like ChatGPT (Deep Research) or Perplexity (Deep Research) should be used only as a first entry point—for example, to gain a quick overview of a topic.
Combine AI-based searches with traditional academic databases such as PubMed or Scopus.
Always read the full paper you want to cite yourself. If you need to be sure to comply with regulations of Good Sicentific Practice (e.g. in a systematic review) document the tool, date, and search filters.
Perform an academic literature review. Use Deep Research or linked scholarly databases. List studies from 2021 onward with DOI, journal, year, and key findings. Flag uncertain or contradictory evidence. [Insert research topic here]
Residual Risk: Moderate. These tools reduce hallucinations but may still surface preprints or unreviewed work; critical appraisal is required.
Informationsbeschaffung – Detaillierte Strategien und Prompts
Dieser Abschnitt bietet praxisorientierte Strategien und einsatzbereite Prompts (im XML-Markup) für KI-gestütztes Information Retrieval. Jedes Thema erläutert ein zentrales Risiko, beschreibt leicht umsetzbare Gegenstrategien und gibt eine kurze Einschätzung des verbleibenden Restrisikos nach Anwendung dieser Strategien.
1. Halluzinierte (erfundene) Informationen
Problem: KI kann scheinbar glaubwürdige, aber erfundene Fakten oder Quellen erzeugen.
Strategie 1: RAG
Die Nutzung von RAG (Retrieval-Augmented Generation) kann Halluzinationen reduzieren.
Das Prinzip: Bevor die KI eine Antwort formuliert, sucht sie gezielt in einer Datenbank oder im Internet nach relevanten Dokumenten. Diese echten Texte werden der KI als kontextuelle Grundlage zur Verfügung gestellt, wodurch die Antwort nachweislich belegbar und inhaltlich genauer wird.
Bei Internetrecherchen kann dieser Prozess durch Deep Research (z. B. in ChatGPT Pro oder Perplexity Pro) weiter verbessert werden. Dabei werden nicht nur einzelne Quellen abgefragt, sondern mehrstufig und kritisch recherchiert: Die KI führt automatisch mehrere Suchläufe durch, vergleicht und bewertet Quellen nach Relevanz und Qualität und erstellt daraus eine synthetische Zusammenfassung mit verlinkten Belegen.
Restrisiken:
- Gefundene Quellen können selbst Fehler, Verzerrungen oder veraltete Informationen enthalten.
- Automatische Quellenauswahl kann wichtige Belege übersehen oder populäre, aber minderwertige Inhalte überbewerten.
- Zusammenfassungsprozesse in Deep Research können verschiedene Perspektiven so vermischen, dass Nuancen verloren gehen oder Bedeutungen verfälscht werden.
- Übervertrauen: Nutzende können sich zu stark auf scheinbar „verlinkte“ Ergebnisse verlassen, ohne sie kritisch zu prüfen.
Strategie 2: Verwende Prompting-Techniken, die Halluzinationen reduzieren
1. Kontext- oder RAG-Prompting
Vor der Antwort sollte der KI ein kurzer Text, eine Faktensammlung oder ein Datenauszug zur Verfügung gestellt werden – mit der Anweisung, ausschließlich auf dieser Grundlage zu antworten.
(Beispiel: „Verwende nur den folgenden Text, um meine Frage zu beantworten…“)
2. Die „Ich weiß es nicht“-Option
Erlaube der KI ausdrücklich, „Ich weiß es nicht“ oder „Nicht genügend Informationen“ zu sagen. Diese Erlaubnis senkt die Wahrscheinlichkeit, dass falsche Antworten erfunden werden.
3. Schritt-für-Schritt-Begründung
Bitte die KI, ihre Gedankengänge vor dem Fazit offenzulegen. Dieses „Chain-of-Thought“-Vorgehen fördert logische Konsistenz und Transparenz.
4. Quellenangabe und Zitation
Fordere zu jeder Aussage eine belegte Quelle – idealerweise mit Autor, Jahr und DOI oder URL. Kann keine überprüfbare Quelle angegeben werden, sollte die Aussage als unsicher markiert werden.
5. Zeitrahmen und Versionskontrolle
Bitte die KI, den Zeitraum anzugeben, auf den sich ihre Informationen beziehen, oder antworte nur mit Publikationen ab einem bestimmten Jahr (z. B. „nach 2023“). So werden veraltete Daten vermieden.
6. Verifikationsschleifen
Lass die KI ihre eigene Antwort überprüfen. Beispiel: Nach der Antwort soll sie zwei mögliche Fehler oder fehlende Punkte nennen. So lassen sich Widersprüche erkennen und Überkonfidenz verringern.
7. Klare Begrenzung des Antwortumfangs
Definiere klar, welche Informationen gewünscht sind und wie lang die Antwort sein darf. Beispiel: „Gib eine 150 Wörter lange, faktenbasierte Zusammenfassung ohne Spekulation.“
8. Ethischer Rahmen (Gute Wissenschaftliche Praxis)
Erinnere die KI daran, wie eine sorgfältige Forscherin zu handeln: überprüfbare Daten nutzen, Unsicherheiten kennzeichnen und Gedankengänge offenlegen. Schon der Hinweis „Befolge die Grundsätze guter wissenschaftlicher Praxis“ führt oft zu spürbar sorgfältigeren Antworten.
Fazit
Diese Techniken beseitigen Halluzinationen nicht vollständig – sie reduzieren jedoch Häufigkeit und Ausmaß deutlich.
Durch Struktur, Überprüfbarkeit und die Möglichkeit, Unsicherheit zuzulassen, wird die KI von einer Erzählerin zu einer verlässlichen Assistentin, die mit Belegen statt Vermutungen arbeitet.
Strategie 3: Überprüfe alle Informationen
Verifikation ist immer notwendig, wenn KI Informationen sammelt oder zusammenfasst – besonders in der Wissenschaft.
Auch fortgeschrittene Tools wie Elicit oder SciSpace, die ausgefeilte Algorithmen für die Literaturrecherche einsetzen, können unvollständiges, verzerrtes oder nicht begutachtetes Material liefern. Ihre Ergebnisse sollten als Ausgangspunkt betrachtet werden, nicht als gesicherte Fakten.
Wissenschaftliche Integrität erfordert, dass jede Aussage auf ihre Primärquelle zurückgeführt und Methoden, Kontext und Veröffentlichungsstatus geprüft werden, bevor Schlussfolgerungen gezogen werden.
Kurz gesagt: KI kann die Entdeckung beschleunigen – aber nur menschliche Überprüfung gewährleistet Wahrheit, Zuverlässigkeit und Verantwortlichkeit.
Restrisiko: Mittel. Selbst überprüfte Quellen können aus dem Zusammenhang gerissen oder missinterpretiert werden; sorgfältiges Lesen bleibt unerlässlich.
2. Veraltete oder unvollständige Informationen
Problem: Modelle ohne Live-Webzugang liefern veraltete oder lückenhafte Daten.
Strategie: Nutze KI-Tools mit Internet- oder Deep-Research-Funktion. Frage explizit nach Aktualisierungsdatum. Prüfe Veröffentlichungsjahr und gleiche mit offiziellen Quellen ab.
Finde die aktuellsten Informationen zu [Thema]. Verwende nur Quellen ab 2023. Füge Veröffentlichungsdatum und Link hinzu und gib dein letztes Wissensupdate an.
Restrisiko: Mittel. Auch aktuelle Quellen können fehlerhaft oder flüchtig sein; offizielle Seiten manuell bestätigen.
3. Fehlende oder falsche Quellenangaben
Problem: KI unterschlägt oder erfindet Zitate.
Strategie: Fordere vollständige Angaben (DOI, Autor, Journal, Jahr). Prüfe in Google Scholar oder PubMed. Dokumentiere Suchweg und Validierung.
Erstelle eine überprüfbare Quellenliste zu [Thema]. Gib zu jeder Aussage die Primärquelle mit DOI, Jahr und Link an und ordne sie der jeweiligen Aussage zu.
Restrisiko: Niedrig – Mittel. Quellen können existieren, aber inhaltlich falsch gedeutet sein.
4. Algorithmischer Bias und Selektionseffekte
Problem: Trainingsdaten bevorzugen bestimmte Regionen oder Perspektiven.
Strategie: Stelle neutrale Fragen, fordere Gegenpositionen an, vergleiche mehrere Modelle und beachte Herkunft sowie Sprache der Quellen.
Analysiere verschiedene Sichtweisen zu [Thema]. Stelle mindestens zwei konträre Positionen mit je einer Quelle dar und benenne mögliche Bias im Kontext.
Restrisiko: Mittel. Systemische Verzerrungen bleiben bestehen, können aber erkannt und reflektiert werden.
5. Fehlerhafte Code- oder Technikantworten
Problem: KI-Code enthält häufig Fehler oder Sicherheitslücken.
Strategie: Code nie ungeprüft ausführen. Verwende Tests, Linter, Sicherheits-Scans und fordere eine Erklärung jeder Codezeile an.
Analysiere und erkläre Code zu [Thema]. Erkläre jede Zeile, erkenne mögliche Fehler oder Risiken und schlage eine sichere Alternative vor.
Restrisiko: Mittel – Hoch. Versions- oder Kontextfehler bleiben möglich, da die KI keine Laufzeitumgebung kennt.
6. Datenschutz und Vertraulichkeit
Problem: Öffentliche KI-Dienste dürfen keine sensiblen Daten verarbeiten.
Strategie: Keine personenbezogenen oder internen Daten eingeben. Inhalte pseudonymisieren oder abstrahieren. Bevorzuge interne (On-Prem) Systeme deiner Einrichtung.
Restrisiko: Niedrig. Restgefahr durch unbeabsichtigte indirekte Identifikatoren.
7. Urheberrecht und geistiges Eigentum
Problem: KI kann geschützte Formulierungen reproduzieren.
Strategie: Nichts wörtlich übernehmen, paraphrasieren, korrekt zitieren, KI-Nutzung offenlegen gemäß den Richtlinien der DFG, COPE und ICMJE.
Formuliere Inhalte verantwortungsvoll neu. Schreibe den Absatz in eigenen Worten, vermeide geschützte Formulierungen und markiere mögliche Trainingsdaten-Übernahmen.
Restrisiko: Mittel. Trainingsquellen sind nicht vollständig transparent; unbeabsichtigte Überschneidungen sind möglich.
8. Scheinpräzision (z. B. in Recht oder Medizin)
Problem: KI liefert scheinbar präzise, aber unvollständige Aussagen.
Strategie: Nur als Orientierung nutzen, immer Primärquellen oder Expert:innen konsultieren. Jurisdiktion und Veröffentlichungsdatum angeben.
Gib rechtlichen oder medizinischen Kontext zu [Thema]. Nutze nur offizielle Primärquellen (Gesetze, Leitlinien) mit Link und Veröffentlichungsdatum. Weise auf fehlende Primärquellen hin.
Restrisiko: Mittel. Selbst offizielle Quellen können regionale Unterschiede oder Aktualitätslücken aufweisen.
9. Fehlkontext bei Nachrichten oder Echtzeitinformationen
Problem: KI kann Berichte vermischen oder falsch deuten.
Strategie: Originalquelle prüfen, unabhängige Medien vergleichen, Zeitstempel dokumentieren.
Überprüfe aktuelle Nachrichten zu [Thema]. Fasse Informationen aus mindestens zwei unabhängigen Medien zusammen. Gib Datum, Medium und Link an.
Restrisiko: Mittel. Dynamische Nachrichtenlagen können Zusammenfassungen schnell veralten lassen.
10. Verlust der eigenen Urteilskraft
Problem: Übermäßige KI-Nutzung kann kritisches Denken schwächen.
Strategie: Ergebnisse regelmäßig manuell prüfen, eigene Hypothesen bilden und Kolleg:innen um Feedback bitten.
Fördere kritische Reflexion. Liste Gegenargumente zu meiner These über [Thema] und nenne Punkte, die ich manuell prüfen sollte.
Restrisiko: Niedrig. Geringe Gefahr, solange regelmäßige Eigenkontrolle erfolgt.
Sonderfall: Wissenschaftliche Literaturrecherche
Empfohlene Tools: Elicit, SciSpace, Scite, ResearchRabbit, Semantic Scholar, Perplexity Pro (Deep Research).
Strategie: Verwende spezialisierte Tools wie Elicit oder SciSpace für die Literaturrecherche. Allgemeine Tools wie ChatGPT oder Perplexity (Deep Research) dienen nur als erster Einstiegspunkt – etwa, um einen schnellen Überblick zu gewinnen. Kombiniere KI-basierte Suche mit klassischen wissenschaftlichen Datenbanken wie PubMed oder Scopus. Lies alle Abstracts und Methoden selbst. Wenn du sicherstellen musst, die Richtlinien guter wissenschaftlicher Praxis einzuhalten (z. B. bei systematischen Reviews), dokumentiere Tool, Datum und verwendete Filter.
Führe eine wissenschaftliche Literaturrecherche durch. Nutze Deep Research oder verlinkte Fachdatenbanken. Liste Arbeiten ab 2021 mit DOI, Journal, Jahr und Kernergebnissen. Markiere unsichere oder widersprüchliche Befunde. [Forschungsthema hier einfügen]
Restrisiko: Mittel. Diese Tools reduzieren Halluzinationen, können jedoch Preprints oder unbegutachtete Arbeiten einbeziehen; kritische Bewertung bleibt unerlässlich.
