Bewertung der Quellenqualität und -relevanz für ein Literaturreview 0 % gelesen

Bewertung der Quellenqualität und -relevanz für ein Literaturreview

Bewerten Sie jede Quelle in getrennten Schritten nach Relevanz zur Review-Frage und zum festgelegten Umfang, Glaubwürdigkeit und Transparenz sowie – bei empirischen Studien – nach methodischer Qualität. Schließen Sie eine Quelle ein, wenn sie die notwendigen Kriterien für ihre konkrete Evidenzrolle erfüllt; verwenden Sie sie mit Qualifizierung, wenn eine relevante Einschränkung die Aussagekraft begrenzt, und schließen Sie sie für diese Rolle aus, wenn eine wesentliche Abweichung die beabsichtigte Nutzung untergräbt.

Quellenbewertung auf einen Blick

Die drei Prüfungen beantworten unterschiedliche Fragen. Eine gute Quelle muss zur vorgesehenen Rolle im Review passen; kein einzelnes Prestige- oder Qualitätssignal ersetzt die Gesamtbeurteilung.

  1. Relevanz prüfen

    Passt die Quelle zur Review-Frage und zu den festgelegten Einschlussgrenzen, etwa Konzept, Population oder Einheit, Kontext und Zeitraum?

    Fehlt eine wesentliche Passung, kann die Quelle die vorgesehene Evidenzrolle nicht erfüllen.
  2. Glaubwürdigkeit einordnen

    Prüfen Sie Autorenexpertise, Publikationsstandards, Provenienz, Zweck und ob zentrale Aussagen durch nachvollziehbare Evidenz gestützt werden.

    Kein einzelnes Signal garantiert Korrektheit; die Signale werden gemeinsam interpretiert.
  3. Methodische Qualität bewerten

    Bei empirischen Studien prüfen Sie Designpassung, Stichprobenziehung, Datenerhebung, Analyse, Verzerrungsrisiken, Einschränkungen und Berichterstattung.

    Die Bewertung muss zum Studiendesign und zur konkreten Schlussfolgerung passen.
EinschließenDie Quelle erfüllt die notwendigen Relevanz- und Qualitätskriterien für ihre beabsichtigte Rolle.
Mit Qualifizierung verwendenDie Quelle bleibt nützlich, aber eine relevante Einschränkung begrenzt Vertrauen, Anwendbarkeit oder inferenzielles Gewicht.
AusschließenEine wesentliche Relevanz- oder Qualitätsanforderung ist für die vorgesehene Rolle nicht erfüllt.

Kein einzelnes Glaubwürdigkeitssignal beweist starke Evidenz. Autorenexpertise, Publikationsstandards, Peer-Review und Evidenzunterstützung müssen zusammen beurteilt werden; bei empirischen Studien bestimmen zusätzlich Studiendesign, Verzerrungsrisiken und Einschränkungen, wie weit die Ergebnisse interpretiert werden können.

Inhaltsverzeichnis

Relevanz für die Review-Frage und den Umfang bewerten

Quellenrelevanz ist die Passung zwischen einer Quelle und der Review-Frage sowie dem vorab festgelegten Umfang des Reviews, nicht allein die Frage, ob die Quelle dasselbe breite Thema behandelt.

Die Relevanz muss anhand dieser Grenzen beurteilt werden und nicht allein anhand der Themenähnlichkeit.

Diese Prüfungen bewerten Passung und Einschlussfähigkeit, nicht die methodische oder inhaltliche Qualität der Quelle.

Die Beziehung zwischen der Review-Frage, dem definierten Umfang und einer Kandidatenquelle lässt sich als Prüfung der Passung zum Umfang über diese Dimensionen hinweg veranschaulichen.

Eine Quelle innerhalb des Umfangs stimmt mit der Review-Frage und den anwendbaren Einschlussgrenzen überein; eine Quelle mit teilweiser Passung entspricht einigen Dimensionen, weicht jedoch bei einer Bedingung ab, die ihre Anwendbarkeit einschränken kann.

Eine Quelle außerhalb des Umfangs fällt außerhalb einer Grenze, die das Review als notwendig für die Einschlussfähigkeit definiert hat.

Eine teilweise Übereinstimmung führt nicht automatisch zum Ausschluss: ihre Bedeutung hängt davon ab, welche Grenze abweicht und wie diese Grenze mit der Review-Frage zusammenhängt.

Diagramm, das zeigt, wie eine Quelle für ein Literaturreview anhand der Review-Frage und des Umfangs geprüft wird.

Zum Beispiel können zwei Quellen dasselbe Konzept untersuchen, aber eine Quelle, die eine andere Population oder einen anderen Zeitraum untersucht, kann nur eine teilweise Passung aufweisen, wenn diese Dimensionen explizite Einschlussgrenzen sind.

Das Auffinden von Kandidatenquellen gehört zur Suchstrategie für die Literatur; die Relevanzbewertung entscheidet anschließend, ob diese Quellen tatsächlich zur Review-Frage und zum festgelegten Umfang passen.

Thematische und konzeptionelle Relevanz

Die konzeptionelle Relevanz hängt davon ab, ob die Konzepte, Konstrukte, Ergebnisse oder Argumente einer Quelle die Review-Frage wirklich behandeln; eine bloße Überschneidung beim übergeordneten Thema genügt nicht.

Eine gemeinsame Terminologie kann zwar darauf hindeuten, dass eine Quelle dasselbe Thema betrifft, aber sie belegt für sich genommen keinen substanziellen Beitrag zur Review-Frage.

Diese Stufen beschreiben den Beitrag zur Review-Frage und keine universelle Bewertungsskala; der Unterschied zwischen konzeptioneller Passung und thematischer Überschneidung lässt sich veranschaulichen, indem man Quellen danach vergleicht, was sie konkret beitragen.

Vergleichsgrafik, die konzeptionelle Relevanz versus oberflächliche thematische Überschneidung bei Quellen für ein Literaturreview zeigt.

Wenn eine Review-Frage beispielsweise untersucht, wie ein bestimmter Faktor mit einem Ergebnis zusammenhängt, besitzt eine Quelle, die diese Beziehung analysiert, direkte konzeptionelle Relevanz; eine Quelle, die den Faktor und das Ergebnis lediglich im selben breiten Thema erwähnt, weist oberflächliche Überschneidung auf.

Die erste kann unmittelbar zur Beantwortung der Review-Frage beitragen, während die zweite nicht allein aufgrund der Terminologie als substanziell relevant behandelt werden sollte.

Passung von Population, Kontext und Zeitraum

Unterschiede bei Population, Setting, Kontext und Zeitraum sind bedeutsam, wenn sie die Anwendbarkeit einer Quelle auf die Review-Frage oder ihre Passung zum Review-Umfang verändern.

Ein Unterschied führt nicht automatisch zum Ausschluss; seine Implikation hängt davon ab, ob diese Dimension eine explizite Einschlussgrenze darstellt oder wesentlich beeinflusst, wie die Evidenz angewendet werden kann.

Diagramm, das die Passung von Population, Kontext und Zeitraum zwischen einer Quelle und dem Umfang des Literaturreviews zeigt.
Passung von Review-Anforderung und Quellenbedingung
Umfangsdimension Review-Anforderung Quellenbedingung Bewertungsimplikation
Population/Einheit Die Population oder Einheit, die der Review-Umfang festgelegt hat Entspricht der geforderten Population oder Einheit oder weicht bei einem für die Review-Frage relevanten Merkmal ab Eine Übereinstimmung unterstützt die direkte Anwendbarkeit; eine wesentliche Abweichung kann die Anwendbarkeit einschränken oder eine Qualifizierung erfordern und kann die Einschlussfähigkeit beeinflussen, wenn diese Populationsgrenze explizit ist.
Setting/Kontext Das Setting, die Umgebung oder die kontextuellen Bedingungen, die das Review definiert hat Entspricht dem geforderten Kontext oder weicht bei Bedingungen ab, die für die Review-Frage wesentlich sind Eine kontextuelle Übereinstimmung unterstützt die Anwendbarkeit; eine wesentliche Abweichung kann eine qualifizierte Nutzung erfordern, anstatt automatisch ausgeschlossen zu werden, es sei denn, das Setting ist eine explizite Einschlussvoraussetzung.
Zeitraum Der Veröffentlichungs- oder Untersuchungszeitraum, den der Review-Umfang definiert hat Liegt innerhalb des geforderten Zeitraums oder weicht zeitlich ab, wo diese Abweichung die Anwendbarkeit auf die Review-Frage beeinflusst Eine zeitliche Übereinstimmung unterstützt die Umfangspassung; eine wesentliche zeitliche Abweichung kann die Anwendbarkeit einschränken oder die Einschlussfähigkeit beeinflussen, wenn das Review eine zeitliche Grenze definiert.

Eine ältere grundlegende Studie kann relevant bleiben, wenn das Review die ursprüngliche Formulierung eines einflussreichen Konzepts benötigt, auch wenn sie außerhalb des Zeitraums liegt, der für Evidenz zu aktuellen Bedingungen verwendet wird.

In diesem Fall erfordert die zeitliche Abweichung eine Qualifizierung der Evidenzrolle der Quelle, anstatt automatisch zu schlussfolgern, dass die Quelle unbrauchbar ist.

Autorität und Glaubwürdigkeit der Quelle bewerten

Die Glaubwürdigkeit einer Quelle sollte anhand mehrerer konvergierender Signale bewertet werden und nicht anhand eines einzelnen Merkmals von Prestige oder Publikationsstatus.

Autorität, Autorenexpertise, Publikationsstandards, Provenienz, Zweck und Evidenzunterstützung können das Vertrauen stärken, wenn sie für die Quelle relevant sind, aber kein einzelnes Signal garantiert Vertrauenswürdigkeit oder Korrektheit.

Diese Glaubwürdigkeitssignale sollten zusammen interpretiert werden, da jeder beobachtete Umstand das Vertrauen unterschiedlich beeinflusst.

Illustration von Autorität, Publikationsprozess, Zweck und Evidenzunterstützung zur Bewertung der Quellenglaubwürdigkeit.

Starke Qualifikationen oder Publikationsprozesse können das Vertrauen stützen, aber die Glaubwürdigkeit einer Quelle bleibt ein Urteil, das auf den kombinierten Signalen und der Evidenz selbst basiert.

Eine Quelle kann daher glaubwürdig sein und dennoch nur eine begrenzte Relevanz für ein bestimmtes Literaturreview haben, wenn sie die Review-Frage oder den Umfang nicht adressiert.

Aktualität, Zweck und Evidenzunterstützung

Aktualität, Zweck und Evidenzunterstützung sind getrennte Glaubwürdigkeitsattribute einer Quelle, und sie können in unterschiedliche Richtungen weisen.

Ein aktuelles Veröffentlichungsdatum begründet für sich genommen keine starke Evidenz. Eine ältere Quelle kann für ein grundlegendes Konzept weiterhin relevant sein, wenn spätere Veränderungen im Feld ihre Aussage für diesen Verwendungszweck nicht überholt haben.

Eine ältere, aber grundlegende und gut unterstützte Quelle kann relevant bleiben, wenn sie für das Konzept verwendet wird, das sie ursprünglich etabliert hat.

Im Gegensatz dazu kann eine aktuelle Quelle, die eine nicht unterstützte Behauptung aufstellt, trotz ihrer Aktualität schwache Evidenz bleiben, daher sollten Vertrauen und Evidenznutzung die spezifischen Glaubwürdigkeitsattribute widerspiegeln, die bewertet werden.

Methodische Qualität kritisch bewerten

Die kritische Bewertung beurteilt, ob Design, Durchführung, Analyse und Berichterstattung einer Studie ihre Ergebnisse ausreichend vertrauenswürdig für die Rolle machen, die sie im Review spielen werden.

Sie prüft die methodische Qualität direkt, anstatt anzunehmen, dass der Publikationsruf oder der Quellentyp die Stärke der Evidenz begründet.

Bewertungskriterien sollten zum Studiendesign passen, da unterschiedliche Forschungsfragen und Methoden unterschiedliche Risiken für Verzerrungen und Einschränkungen schaffen.

Die diagnostische Abfolge organisiert Bewertungsfragen, anstatt feste Schwellenwerte für akzeptable Evidenz zu liefern:

  1. Passung von Studienfrage und Design: die Forschungsfrage identifizieren und bewerten, ob das Studiendesign zu ihrer Beantwortung geeignet ist; eine schlechte Passung schränkt ein, was die Ergebnisse belegen können.
  2. Durchführung und Datenqualität: prüfen, wie Teilnehmende, Beobachtungen, Messungen oder andere Daten gewonnen und behandelt wurden; Schwächen in der Durchführung können Verzerrungen einführen oder das Vertrauen verringern.
  3. Analyse: beurteilen, ob der analytische Ansatz zum Studiendesign und zu den Daten passt und ob die berichtete Interpretation durch diese Analyse gestützt wird.
  4. Verzerrung, Berichterstattung und Einschränkungen: Signale identifizieren, die auf Risiken von Verzerrungen, unvollständiger Berichterstattung oder andere Einschränkungen hindeuten, dabei ein mögliches Risiko von der Bestätigung unterscheiden, dass die Ergebnisse ungültig sind.
  5. Vertrauen in die Nutzung: die Urteile über Design, Durchführung, Analyse, Berichterstattung, Verzerrung und Einschränkungen kombinieren, um zu entscheiden, wie viel Vertrauen die Studie für ihre beabsichtigte Evidenzrolle rechtfertigt; eine Schwäche kann eine Qualifizierung erfordern, ohne die Studie automatisch ungültig zu machen.

Die kritische Bewertung operiert auf der Ebene einer einzelnen Studie und bestimmt, wie ihre methodischen Stärken und Einschränkungen das Vertrauen in ihre Ergebnisse beeinflussen.

Sie unterscheidet sich von der kritischen Analyse der Literatur, die breitere analytische Beziehungen zwischen mehreren Quellen behandelt, nachdem die einzelne Evidenz bewertet wurde.

Forschungsdesign und methodische Passung

Die methodische Passung hängt davon ab, ob das Studiendesign und der methodische Ansatz für die Forschungsfrage geeignet sind und die Art der gemachten Aussage stützen können.

Ein rigoroses Design kann dennoch für eine bestimmte Frage schlecht geeignet sein; methodische Sorgfalt und Designangemessenheit sind deshalb nicht dasselbe Urteil.

Beispielsweise kann eine Studie ein rigoroses Beobachtungsdesign verwenden, um einen Zusammenhang zu identifizieren, doch dieses Design kann schlecht auf eine Aussage abgestimmt sein, dass ein Faktor einen anderen verursacht hat.

Die Studie kann dennoch nützliche Evidenz liefern, aber die Schlussfolgerung sollte innerhalb dessen bleiben, was das Design zu stützen geeignet ist.

Stichprobenziehung, Datenerhebung und Analyse

Die methodische Durchführung stützt die Schlussfolgerungen einer Studie, wenn Stichprobenziehung, Datenerhebung, Messung und Analyse für das Studiendesign geeignet und intern kohärent sind.

Die relevanten Qualitätsbedingungen variieren je nach Methodik, daher sollten Validität, Reliabilität und andere Durchführungskriterien entsprechend den verwendeten Methoden interpretiert werden, anstatt als identische Regeln über qualitative, quantitative und Mixed-Methods-Studien hinweg angewendet zu werden.

Diese Durchführungsprüfungen verbinden jedes methodische Verfahren mit seiner Qualitätsbedingung, möglichen Auswirkung und Implikation für das Vertrauen:

Eine nicht repräsentative Stichprobe ist ein Warnsignal, wenn Repräsentativität für die beabsichtigte Schlussfolgerung notwendig ist; sie beweist nicht, dass jedes Ergebnis der Studie unbrauchbar ist.

Ebenso kann eine analytische Diskrepanz das Vertrauen in eine bestimmte Schlussfolgerung verringern, wobei ihre Implikation davon abhängt, wie die Diskrepanz die Evidenz beeinflusst, die diese Schlussfolgerung stützt.

Verzerrung, Einschränkungen und Transparenz der Berichterstattung

Verzerrung, Einschränkungen und Transparenz der Berichterstattung sind Signale, die das Vertrauen in eine Studie modifizieren, und keine einfachen Ja/Nein-Kennzeichnungen.

Eine Einschränkung ist beherrschbar, wenn ihr Umfang und ihre plausible Wirkung nachvollziehbar eingegrenzt werden können; eine wesentliche Einschränkung schwächt dagegen die für eine relevante Aussage benötigte Evidenz substanziell oder lässt eine zentrale Unsicherheit ungelöst.

Die Transparenz der Berichterstattung erlaubt es, beobachtbare Merkmale der Quelle von Schlussfolgerungen über ihre möglichen Auswirkungen zu trennen.

Die folgenden Signale erfordern eine Interpretation im Kontext, da ihre Implikationen davon abhängen, wie sie die Ergebnisse und die beabsichtigte Nutzung der Evidenz beeinflussen:

Wenn eine Einschränkung eine notwendige Bewertung verhindert oder die Unterstützung für die zentrale Aussage wesentlich schwächt, sollte das Vertrauen entsprechend reduziert werden; für eine Evidenzrolle, die gerade auf dieser Aussage beruht, kann dann auch ein Ausschluss begründet sein.

Eine vertretbare Entscheidung zur Quellenauswahl treffen

Eine vertretbare Entscheidung zur Quellenauswahl kombiniert Relevanz, Glaubwürdigkeit und methodische Qualität anhand expliziter Kriterien, die konsistent angewendet werden.

Die Entscheidung sollte dann prüfen, ob eine wesentliche Schwäche die beabsichtigte Evidenzrolle der Quelle beeinträchtigt, anstatt die Bewertung auf eine einzelne Punktzahl oder eine willkürliche Grenze zu reduzieren.

Formale Einschluss- und Ausschlussregeln hängen von der Review-Methode und dem vorab festgelegten Umfang ab, daher sollten Kriterien vor der Quellenauswahl festgelegt werden, anstatt nachträglich geändert zu werden, um Evidenz basierend auf Präferenz zuzulassen.

Der Entscheidungsfluss ordnet die früheren Bewertungsergebnisse in ein konsistentes Auswahlurteil, ohne universelle Grenzen zu schaffen:

  1. Relevanz bestätigen: bestimmen, ob die Quelle die Review-Frage und den vorab festgelegten Umfang ausreichend erfüllt, um für die Nutzung in Betracht gezogen zu werden.
  2. Glaubwürdigkeit und methodische Qualität bewerten: identifizieren, ob die Quelle die anwendbaren Glaubwürdigkeits- und methodischen Kriterien für ihren Quellentyp und ihr Studiendesign erfüllt, teilweise erfüllt oder nicht erfüllt.
  3. Wesentliche Schwächen identifizieren: bestimmen, ob eine Schwäche für die beabsichtigte Rolle der Quelle wesentlich ist oder ob sie durch Qualifizierung gehandhabt werden kann.
  4. Die Entscheidung treffen: die Quelle einschließen, wenn sie die notwendigen Kriterien für ihre beabsichtigte Nutzung erfüllt; sie ausschließen, wenn eine wesentliche Schwäche diese Nutzung verhindert; eine qualifizierte Nutzung wählen, wenn sie informativ bleibt, aber ihre Einschränkungen die Interpretation oder das Evidenzgewicht begrenzen.
  5. Die Begründung dokumentieren: festhalten, welche Kriterien angewendet wurden, welche bedeutenden Stärken oder Schwächen identifiziert wurden, welche Evidenzrolle beabsichtigt war und warum die endgültige Entscheidung getroffen wurde.

Eine Grenzfallquelle kann daher je nach Verwendungszweck unterschiedlich behandelt werden.

Beispielsweise kann eine Quelle mit einer methodischen Einschränkung als primäre Evidenz für eine zentrale Aussage ungeeignet sein, aber dennoch einen qualifizierten kontextuellen Hintergrund unterstützen, wenn die Einschränkung diese engere Rolle nicht untergräbt; die Begründung sollte diese Unterscheidung festhalten, damit ähnliche Quellen konsistent beurteilt werden.

Nach der Auswahlbegründung folgt als separater Schritt das Ordnen der Quellen für das Literaturreview.

Relevanz gegen Evidenzqualität abwägen

Relevanz und Evidenzqualität sind getrennte Dimensionen des Nutzens einer Quelle; Stärke in einer Dimension gleicht Schwäche in der anderen nicht automatisch aus.

Eine Quelle kann hoch relevant, aber methodisch eingeschränkt sein oder methodisch stark, aber randständig zur Review-Frage; ihre Evidenzrolle sollte beide Dimensionen widerspiegeln.

Der folgende Vergleich legt dieselbe Grundlage für vier Kombinationen an: Relevanz für die Review-Frage, Evidenzqualität, voraussichtlicher Beitrag und die für die Nutzung erforderliche Qualifizierung.

Relevanz und Evidenzqualität gemeinsam interpretieren
Relevanz Evidenzqualität Voraussichtliche Rolle im Review Erforderliche Qualifizierung
Hohe Relevanz Starke Evidenz Kann direkt zur Beantwortung der Review-Frage beitragen und zentrale Aussagen stützen, wenn sie in die beabsichtigte Evidenzrolle passt. Die übliche kritische Qualifizierung bleibt notwendig, aber das Vertrauen kann vergleichsweise hoch sein, wenn keine substanzielle Einschränkung die relevante Aussage beeinträchtigt.
Hohe Relevanz Schwache Evidenz Kann trotzdem beitragen, da sie die Review-Frage eng adressiert, besonders wenn wenige Quellen dasselbe Thema abdecken. Erfordert eine klare Qualifizierung hinsichtlich methodischer Einschränkungen, reduzierten Vertrauens und der engeren Rolle, die die Evidenz sinnvollerweise stützen kann.
Niedrige Relevanz Starke Evidenz Kann periphere Evidenz, Hintergrund, Vergleich oder kontextuelle Unterstützung bieten, anstatt direkte Evidenz für die zentrale Review-Frage zu liefern. Ihr Beitrag sollte auf den Aspekt beschränkt werden, für den die Quelle in den Review-Umfang passt, anstatt als direkt relevante Evidenz behandelt zu werden.
Niedrige Relevanz Schwache Evidenz Hat normalerweise geringen Evidenznutzen für die Beantwortung der Review-Frage, da sowohl die Passung der Quelle als auch die Evidenzstärke eingeschränkt sind. Die Nutzung erfordert im Allgemeinen eine substanzielle Begründung, und der Ausschluss kann angemessen sein, wenn die Quelle die vordefinierten Kriterien des Reviews nicht erfüllt oder keine notwendige Evidenzrolle stützen kann.

Eine Grenzfallquelle kann für einen engen Aspekt des Reviews einzigartig relevant sein und gleichzeitig eine methodische Einschränkung aufweisen, die das Vertrauen schwächt.

Eine solche Quelle kann mit expliziter Qualifizierung diskutiert werden, wenn ihre Relevanz Informationen hinzufügt, die anderswo nicht verfügbar sind, aber sie sollte nicht als gleichwertig mit stärkerer Evidenz behandelt werden, die dieselbe Aussage stützt.

Einschließen, ausschließen oder mit Qualifizierung verwenden

Das endgültige Ergebnis der Quellennutzung ist es, die Quelle gemäß vordefinierter Relevanz- und Qualitätskriterien sowie der beabsichtigten Evidenzrolle einzuschließen, auszuschließen oder mit Qualifizierung zu verwenden.

Einschluss bedeutet, dass die Quelle ausreichende Relevanz und Evidenzangemessenheit für diese Rolle hat; Ausschluss bedeutet, dass sie eine wesentliche Grenze oder Qualitätsanforderung nicht erfüllt; und qualifizierte Nutzung bedeutet, dass eine Einschränkung von Bedeutung ist, aber nicht den gesamten Informationswert aufhebt.

Die drei Ergebnisse sollten konsistent angewendet und durch eine dokumentierte Begründung gestützt werden, anstatt als universelle Bestehens-/Durchfallregeln behandelt zu werden:

Zum Beispiel kann eine Studie, die für eine enge Frage einzigartig relevant, aber methodisch eingeschränkt ist, als qualifizierte Evidenz nützlich bleiben, während sie weniger inferenzielles Gewicht erhält als stärkere Studien.

Nachdem die endgültige Begründung dokumentiert wurde, kann die beibehaltene Evidenz in einem separaten Schritt synthetisiert werden.