Information Retrieval – Difficulties and Strategies / Informationsbeschaffung – Schwierigkeiten und Strategien

Information Retrieval – Detailed Strategies and Prompts

→ Jump to German Version

This section provides practical strategies and ready-to-use prompts (in XML mark-up) for AI-based information retrieval. Each topic explains a major risk, easy mitigation strategies, and a brief note on residual risk after applying those strategies.

1. Hallucinated (invented) Information

Problem: AI may invent facts or citations that appear legitimate.

Strategy 1:RAG

The use of RAG (Retrieval-Augmented Generation) can reduce hallucinations.
The principle: Before the AI formulates an answer, it deliberately searches a database or the internet for relevant documents. These real texts are then provided to the AI as contextual input, making the response demonstrably verifiable and more accurate.
For online research, this process can be further improved through Deep Research (e.g., in ChatGPT Pro or Perplexity Pro). In this approach, the AI does not merely query individual sources, but conducts a multi-stage and critical search: it automatically performs several search iterations, compares and evaluates sources for relevance and quality, and generates a synthesis-based summary with linked references.

Residual Risks:

  • Retrieved sources may themselves contain errors, biases, or outdated information.

  • Automated source selection can overlook relevant evidence or overemphasize popular but low-quality materials.

  • Synthesis processes in Deep Research can merge multiple viewpoints in ways that blur nuance or misrepresent original intent.

  • Finally, users may develop overconfidence in the apparent reliability of results simply because they are “linked” or “cited.”

Strategy 2: Use prompting techniques that reduce hallucinations

1. Context or RAG Prompting

Before asking for an answer, provide the AI with a short text, a list of facts, or a data excerpt and instruct it to base its response only on that material.
(Example: “Use only the following text to answer my question…”)

2. The “Don’t Know” Option

Explicitly allow the AI to say “I don’t know” or “Not enough information.”
Giving permission to admit uncertainty strongly decreases false answers.

3. Step-by-Step Reasoning

Ask the AI to explain its reasoning process before giving the final answer.
This “chain-of-thought” approach helps it detect inconsistencies and leads to more logical, transparent outputs.

4. Source Attribution and Citation

Require that every factual statement be supported by a source—ideally with author, year, and DOI or URL.
If the model cannot find a verifiable source, it should mark that statement as uncertain.

5. Timeframe and Version Control

Ask the AI to specify the time period its information covers or to limit answers to recent publications (e.g., “after 2023”).
This helps avoid outdated data and highlights when current updates are missing.

6. Verification Loops

Have the AI check its own output.
For example, after it provides an answer, ask it to list two possible errors or missing points.
This self-review step exposes contradictions and reduces overconfidence.

7. Scoped and Focused Output

Define clear boundaries for what kind of information you want and how long the response should be.
Example: “Give a 150-word factual summary without speculation.”
Limiting scope prevents the model from drifting into assumptions.

8. Ethical Framing (Good Scientific Practice)
Remind the AI to act like a cautious researcher:
use verifiable data, show uncertainty, and make reasoning transparent.
A simple reminder such as “Follow the principles of good scientific practice” often results in noticeably more careful and traceable answers.
In Summary

These techniques don’t eliminate hallucinations completely—but they dramatically reduce their frequency and impact.
By adding structure, verification, and the option to admit uncertainty, you turn the AI from a storyteller into a responsible assistant that works with evidence rather than assumptions.

Strategy 3: Verify all information

Verification is essential whenever AI is used to gather or summarize information—especially in scientific work.
Even advanced tools such as Elicit or SciSpace, which employ sophisticated algorithms to search academic literature, can retrieve incomplete, biased, or non–peer-reviewed material. Their results should be treated as starting points, not as verified facts.
Scientific integrity requires that every claim be traced back to its primary source and that the methods, context, and publication status of each study be checked before drawing conclusions.
In short: AI can accelerate discovery, but only human verification ensures truth, reliability, and accountability.

Residual Risk: Moderate. Even verified sources can be taken out of context or misinterpreted; careful reading remains essential.

2. Outdated or Incomplete Information

Problem: Models without live web access may provide outdated or incomplete data.

Strategy: Use AI tools with Internet or Deep Research access. Ask explicitly for update timestamps. Verify publication years and cross-check against authoritative sources.

  Find the most recent information on [topic].
  Use only sources published after 2023. Include publication date and link. Indicate your last knowledge update.

Residual Risk: Moderate. Even current sources may be inaccurate or reflect transient information; manual confirmation from official sites is recommended.

3. Missing or Incorrect Citations

Problem: AI often omits or fabricates references.

Strategy: Demand complete citation details (DOI, author, journal, year). Verify each in databases such as Google Scholar or PubMed. Maintain a log of validated sources for transparency.

  Compile a verifiable reference list on [topic].
  For every statement, include the primary source with DOI, year, and link. Indicate which statement each source supports.

Residual Risk: Low–Moderate. Genuine citations can still be misread or only partially relevant.

4. Algorithmic Bias and Selection Effects

Problem: AI may favor overrepresented cultural or linguistic perspectives.

Strategy: Phrase prompts neutrally. Request opposing viewpoints and compare results from several models. Note regional and linguistic diversity of sources.

  Analyze different perspectives on [topic].
  Present at least two contrasting positions, each with one source. Identify possible bias in each source context.

Residual Risk: Moderate. Dataset bias cannot be fully removed but can be detected and discussed.

5. Faulty Code or Technical Answers

Problem: Generated code may contain logic errors or security vulnerabilities.

Strategy: Never execute AI-generated code without testing. Use linters and security scanners (SAST/DAST). Ask the AI to explain each step to reveal inconsistencies.

  Review and explain code related to [topic].
  Explain the function of each line, detect potential errors or vulnerabilities, and propose a safer alternative.

Residual Risk: Moderate–High. The AI lacks awareness of your specific environment, so runtime or dependency errors may persist.

6. Data Privacy and Confidentiality

Problem: Entering personal or institutional data into public AI tools can violate confidentiality agreements or data protection law.

Strategy: Avoid sharing identifiable or sensitive information. Pseudonymize or abstract content before using it. Prefer secure internal (on-premises) models run by your institution

Residual Risk: Low. Remaining exposure stems mainly from accidental inclusion of details that could indirectly identify individuals or organizations.

7. Intellectual Property and Copyright

Problem: AI outputs can include copyrighted expressions or fragments from training data.

Strategy: Avoid verbatim copying. Paraphrase and cite verified sources. Disclose AI assistance according to the regulations set by the DFG, COPE, and ICMJE.

  Rephrase content responsibly.
  Rewrite this paragraph in your own words, avoiding copyrighted expressions. Flag any phrases likely drawn from training data.

Residual Risk: Moderate. Training data origins are opaque; inadvertent overlap may occur despite precautions.

8. False Precision e.g. in Law or Medicine

Problem: AI may produce confident yet incomplete legal or medical guidance.

Strategy: Use for orientation only. Confirm via official statutes, guidelines, or domain experts. Include jurisdiction and publication date with every claim.

  Provide legal or medical context for [topic].
  Use only official primary sources (e.g., statutes, guidelines) with links and publication dates. State explicitly if no primary source is available.

Residual Risk: Moderate. Official materials may vary by region or become outdated; expert review is still needed.

9. Miscontextualized News or Real-Time Information

Problem: AI can merge distinct reports or distort context.

Strategy: Check the original outlet and date; compare multiple independent reports; record timestamps.

  Cross-check recent news about [topic].
  Summarize facts from at least two independent outlets. Include date, medium, and link for each source.

Residual Risk: Moderate. As events evolve, previously correct summaries can become inaccurate; periodic rechecks are advised.

10. Loss of Critical Judgment

Problem: Overreliance on AI can weaken analytical habits.

Strategy: Periodically verify via manual research, formulate your own hypotheses, and seek peer feedback.

  Promote critical reflection.
  List counterarguments to my hypothesis about [topic]. Identify which points I should verify manually.

Residual Risk: Low. The main risk is complacency; deliberate reflective practice mitigates it.

Special Case: Academic Literature Search

Recommended Tools:

Strategy: Use specialized tools such as Elicit or SciSpace for literature searches.
General-purpose tools like ChatGPT (Deep Research) or Perplexity (Deep Research) should be used only as a first entry point—for example, to gain a quick overview of a topic.
Combine AI-based searches with traditional academic databases such as PubMed or Scopus.
Always read the full paper you want to cite yourself. If you need to be sure to comply with regulations of Good Sicentific Practice (e.g. in a systematic review) document the tool, date, and search filters.

  Perform an academic literature review.
  Use Deep Research or linked scholarly databases. List studies from 2021 onward with DOI, journal, year, and key findings. Flag uncertain or contradictory evidence.
  [Insert research topic here]

Residual Risk: Moderate. These tools reduce hallucinations but may still surface preprints or unreviewed work; critical appraisal is required.


Informationsbeschaffung – Detaillierte Strategien und Prompts

→ Back to English Version

Dieser Abschnitt bietet praxisorientierte Strategien und einsatzbereite Prompts (im XML-Markup) für KI-gestütztes Information Retrieval. Jedes Thema erläutert ein zentrales Risiko, beschreibt leicht umsetzbare Gegenstrategien und gibt eine kurze Einschätzung des verbleibenden Restrisikos nach Anwendung dieser Strategien.

1. Halluzinierte (erfundene) Informationen

Problem: KI kann scheinbar glaubwürdige, aber erfundene Fakten oder Quellen erzeugen.

Strategie 1: RAG

Die Nutzung von RAG (Retrieval-Augmented Generation) kann Halluzinationen reduzieren.
Das Prinzip: Bevor die KI eine Antwort formuliert, sucht sie gezielt in einer Datenbank oder im Internet nach relevanten Dokumenten. Diese echten Texte werden der KI als kontextuelle Grundlage zur Verfügung gestellt, wodurch die Antwort nachweislich belegbar und inhaltlich genauer wird.
Bei Internetrecherchen kann dieser Prozess durch Deep Research (z. B. in ChatGPT Pro oder Perplexity Pro) weiter verbessert werden. Dabei werden nicht nur einzelne Quellen abgefragt, sondern mehrstufig und kritisch recherchiert: Die KI führt automatisch mehrere Suchläufe durch, vergleicht und bewertet Quellen nach Relevanz und Qualität und erstellt daraus eine synthetische Zusammenfassung mit verlinkten Belegen.

Restrisiken:

  • Gefundene Quellen können selbst Fehler, Verzerrungen oder veraltete Informationen enthalten.
  • Automatische Quellenauswahl kann wichtige Belege übersehen oder populäre, aber minderwertige Inhalte überbewerten.
  • Zusammenfassungsprozesse in Deep Research können verschiedene Perspektiven so vermischen, dass Nuancen verloren gehen oder Bedeutungen verfälscht werden.
  • Übervertrauen: Nutzende können sich zu stark auf scheinbar „verlinkte“ Ergebnisse verlassen, ohne sie kritisch zu prüfen.

Strategie 2: Verwende Prompting-Techniken, die Halluzinationen reduzieren

1. Kontext- oder RAG-Prompting

Vor der Antwort sollte der KI ein kurzer Text, eine Faktensammlung oder ein Datenauszug zur Verfügung gestellt werden – mit der Anweisung, ausschließlich auf dieser Grundlage zu antworten.
(Beispiel: „Verwende nur den folgenden Text, um meine Frage zu beantworten…“)

2. Die „Ich weiß es nicht“-Option

Erlaube der KI ausdrücklich, „Ich weiß es nicht“ oder „Nicht genügend Informationen“ zu sagen. Diese Erlaubnis senkt die Wahrscheinlichkeit, dass falsche Antworten erfunden werden.

3. Schritt-für-Schritt-Begründung

Bitte die KI, ihre Gedankengänge vor dem Fazit offenzulegen. Dieses „Chain-of-Thought“-Vorgehen fördert logische Konsistenz und Transparenz.

4. Quellenangabe und Zitation

Fordere zu jeder Aussage eine belegte Quelle – idealerweise mit Autor, Jahr und DOI oder URL. Kann keine überprüfbare Quelle angegeben werden, sollte die Aussage als unsicher markiert werden.

5. Zeitrahmen und Versionskontrolle

Bitte die KI, den Zeitraum anzugeben, auf den sich ihre Informationen beziehen, oder antworte nur mit Publikationen ab einem bestimmten Jahr (z. B. „nach 2023“). So werden veraltete Daten vermieden.

6. Verifikationsschleifen

Lass die KI ihre eigene Antwort überprüfen. Beispiel: Nach der Antwort soll sie zwei mögliche Fehler oder fehlende Punkte nennen. So lassen sich Widersprüche erkennen und Überkonfidenz verringern.

7. Klare Begrenzung des Antwortumfangs

Definiere klar, welche Informationen gewünscht sind und wie lang die Antwort sein darf. Beispiel: „Gib eine 150 Wörter lange, faktenbasierte Zusammenfassung ohne Spekulation.“

8. Ethischer Rahmen (Gute Wissenschaftliche Praxis)

Erinnere die KI daran, wie eine sorgfältige Forscherin zu handeln: überprüfbare Daten nutzen, Unsicherheiten kennzeichnen und Gedankengänge offenlegen. Schon der Hinweis „Befolge die Grundsätze guter wissenschaftlicher Praxis“ führt oft zu spürbar sorgfältigeren Antworten.

Fazit

Diese Techniken beseitigen Halluzinationen nicht vollständig – sie reduzieren jedoch Häufigkeit und Ausmaß deutlich.
Durch Struktur, Überprüfbarkeit und die Möglichkeit, Unsicherheit zuzulassen, wird die KI von einer Erzählerin zu einer verlässlichen Assistentin, die mit Belegen statt Vermutungen arbeitet.

Strategie 3: Überprüfe alle Informationen

Verifikation ist immer notwendig, wenn KI Informationen sammelt oder zusammenfasst – besonders in der Wissenschaft.
Auch fortgeschrittene Tools wie Elicit oder SciSpace, die ausgefeilte Algorithmen für die Literaturrecherche einsetzen, können unvollständiges, verzerrtes oder nicht begutachtetes Material liefern. Ihre Ergebnisse sollten als Ausgangspunkt betrachtet werden, nicht als gesicherte Fakten.
Wissenschaftliche Integrität erfordert, dass jede Aussage auf ihre Primärquelle zurückgeführt und Methoden, Kontext und Veröffentlichungsstatus geprüft werden, bevor Schlussfolgerungen gezogen werden.
Kurz gesagt: KI kann die Entdeckung beschleunigen – aber nur menschliche Überprüfung gewährleistet Wahrheit, Zuverlässigkeit und Verantwortlichkeit.

Restrisiko: Mittel. Selbst überprüfte Quellen können aus dem Zusammenhang gerissen oder missinterpretiert werden; sorgfältiges Lesen bleibt unerlässlich.

2. Veraltete oder unvollständige Informationen

Problem: Modelle ohne Live-Webzugang liefern veraltete oder lückenhafte Daten.
Strategie: Nutze KI-Tools mit Internet- oder Deep-Research-Funktion. Frage explizit nach Aktualisierungsdatum. Prüfe Veröffentlichungsjahr und gleiche mit offiziellen Quellen ab.

Finde die aktuellsten Informationen zu [Thema].
Verwende nur Quellen ab 2023. Füge Veröffentlichungsdatum und Link hinzu und gib dein letztes Wissensupdate an.

Restrisiko: Mittel. Auch aktuelle Quellen können fehlerhaft oder flüchtig sein; offizielle Seiten manuell bestätigen.

3. Fehlende oder falsche Quellenangaben

Problem: KI unterschlägt oder erfindet Zitate.
Strategie: Fordere vollständige Angaben (DOI, Autor, Journal, Jahr). Prüfe in Google Scholar oder PubMed. Dokumentiere Suchweg und Validierung.

Erstelle eine überprüfbare Quellenliste zu [Thema].
Gib zu jeder Aussage die Primärquelle mit DOI, Jahr und Link an und ordne sie der jeweiligen Aussage zu.

Restrisiko: Niedrig – Mittel. Quellen können existieren, aber inhaltlich falsch gedeutet sein.

4. Algorithmischer Bias und Selektionseffekte

Problem: Trainingsdaten bevorzugen bestimmte Regionen oder Perspektiven.
Strategie: Stelle neutrale Fragen, fordere Gegenpositionen an, vergleiche mehrere Modelle und beachte Herkunft sowie Sprache der Quellen.

Analysiere verschiedene Sichtweisen zu [Thema].
Stelle mindestens zwei konträre Positionen mit je einer Quelle dar und benenne mögliche Bias im Kontext.

Restrisiko: Mittel. Systemische Verzerrungen bleiben bestehen, können aber erkannt und reflektiert werden.

5. Fehlerhafte Code- oder Technikantworten

Problem: KI-Code enthält häufig Fehler oder Sicherheitslücken.
Strategie: Code nie ungeprüft ausführen. Verwende Tests, Linter, Sicherheits-Scans und fordere eine Erklärung jeder Codezeile an.

Analysiere und erkläre Code zu [Thema].
Erkläre jede Zeile, erkenne mögliche Fehler oder Risiken und schlage eine sichere Alternative vor.

Restrisiko: Mittel – Hoch. Versions- oder Kontextfehler bleiben möglich, da die KI keine Laufzeitumgebung kennt.

6. Datenschutz und Vertraulichkeit

Problem: Öffentliche KI-Dienste dürfen keine sensiblen Daten verarbeiten.
Strategie: Keine personenbezogenen oder internen Daten eingeben. Inhalte pseudonymisieren oder abstrahieren. Bevorzuge interne (On-Prem) Systeme deiner Einrichtung.
Restrisiko: Niedrig. Restgefahr durch unbeabsichtigte indirekte Identifikatoren.

7. Urheberrecht und geistiges Eigentum

Problem: KI kann geschützte Formulierungen reproduzieren.
Strategie: Nichts wörtlich übernehmen, paraphrasieren, korrekt zitieren, KI-Nutzung offenlegen gemäß den Richtlinien der DFG, COPE und ICMJE.

Formuliere Inhalte verantwortungsvoll neu.
Schreibe den Absatz in eigenen Worten, vermeide geschützte Formulierungen und markiere mögliche Trainingsdaten-Übernahmen.

Restrisiko: Mittel. Trainingsquellen sind nicht vollständig transparent; unbeabsichtigte Überschneidungen sind möglich.

8. Scheinpräzision (z. B. in Recht oder Medizin)

Problem: KI liefert scheinbar präzise, aber unvollständige Aussagen.
Strategie: Nur als Orientierung nutzen, immer Primärquellen oder Expert:innen konsultieren. Jurisdiktion und Veröffentlichungsdatum angeben.

Gib rechtlichen oder medizinischen Kontext zu [Thema].
Nutze nur offizielle Primärquellen (Gesetze, Leitlinien) mit Link und Veröffentlichungsdatum. Weise auf fehlende Primärquellen hin.

Restrisiko: Mittel. Selbst offizielle Quellen können regionale Unterschiede oder Aktualitätslücken aufweisen.

9. Fehlkontext bei Nachrichten oder Echtzeitinformationen

Problem: KI kann Berichte vermischen oder falsch deuten.
Strategie: Originalquelle prüfen, unabhängige Medien vergleichen, Zeitstempel dokumentieren.

Überprüfe aktuelle Nachrichten zu [Thema].
Fasse Informationen aus mindestens zwei unabhängigen Medien zusammen. Gib Datum, Medium und Link an.

Restrisiko: Mittel. Dynamische Nachrichtenlagen können Zusammenfassungen schnell veralten lassen.

10. Verlust der eigenen Urteilskraft

Problem: Übermäßige KI-Nutzung kann kritisches Denken schwächen.
Strategie: Ergebnisse regelmäßig manuell prüfen, eigene Hypothesen bilden und Kolleg:innen um Feedback bitten.

Fördere kritische Reflexion.
Liste Gegenargumente zu meiner These über [Thema] und nenne Punkte, die ich manuell prüfen sollte.

Restrisiko: Niedrig. Geringe Gefahr, solange regelmäßige Eigenkontrolle erfolgt.

Sonderfall: Wissenschaftliche Literaturrecherche

Empfohlene Tools: Elicit, SciSpace, Scite, ResearchRabbit, Semantic Scholar, Perplexity Pro (Deep Research).
Strategie: Verwende spezialisierte Tools wie Elicit oder SciSpace für die Literaturrecherche. Allgemeine Tools wie ChatGPT oder Perplexity (Deep Research) dienen nur als erster Einstiegspunkt – etwa, um einen schnellen Überblick zu gewinnen. Kombiniere KI-basierte Suche mit klassischen wissenschaftlichen Datenbanken wie PubMed oder Scopus. Lies alle Abstracts und Methoden selbst. Wenn du sicherstellen musst, die Richtlinien guter wissenschaftlicher Praxis einzuhalten (z. B. bei systematischen Reviews), dokumentiere Tool, Datum und verwendete Filter.

Führe eine wissenschaftliche Literaturrecherche durch.
Nutze Deep Research oder verlinkte Fachdatenbanken. Liste Arbeiten ab 2021 mit DOI, Journal, Jahr und Kernergebnissen. Markiere unsichere oder widersprüchliche Befunde.
[Forschungsthema hier einfügen]

Restrisiko: Mittel. Diese Tools reduzieren Halluzinationen, können jedoch Preprints oder unbegutachtete Arbeiten einbeziehen; kritische Bewertung bleibt unerlässlich.