Module 4
Module 4
MODUL 4
ASPEKTE DER BEWERTUNG
UND AUSWERTUNG
Was sind die wichtigsten Aspekte bei der Bewertung und Ergebnisermittlung?
Bei jeder Art von Test gehört es zu den Pflichten des Testanbieters, dem Kandidaten ein faires
Ergebnis mitzuteilen. Dabei geht es in erster Linie darum, Fairness dadurch zu erreichen, dass
großer Wert auf die Genauigkeit und Konsistenz der Bewertung gelegt und der Messfehler
möglichst gering gehalten wird.
Betont man die Fairness der Bewertung, spielt die Reliabilität eine Rolle. Sie ist bei Tests ein
besonders wichtiger Aspekt. In diesem Modul wird deshalb eine Reihe von Fragen diskutiert, die
mit der Reliabilität (Zuverlässigkeit) der Leistungsmessung zusammenhängen.
Bei der Diskussion der Bewertungsverfahren und Probleme, die damit verbunden sind, können
Testaufgaben folgendermaßen klassifiziert werden:
Aufgaben mit einem Format, das eine objektive Auswertung ermöglicht
Aufgaben, die wegen ihres Formats eher subjektiv bewertet werden können
In diesem Modul werden verschiedene Fragen diskutiert, die sowohl die objektive Auswertung als
auch die subjektive Bewertung betreffen.
ALTE-Handreichungen für Testautoren Modul 4 3
2. Reliabilität
a) In objektiv ausgewerteten Tests
Die Reliabilität eines Tests wird oft definiert als die Konsistenz der Leistungsmessung, d. h. eine
Messung sollte das, was sie messen möchte, immer gleich messen. Wenn ein Kandidat kurz
hintereinander zwei verschiedene Versionen eines Tests ablegt, erwartet man, dass seine Resultate
etwa gleich sind; man erwartet nicht, dass eine Version erheblich schwieriger ist als die andere.
i) Interne Faktoren
Interne Faktoren beziehen sich auf die Anzahl und die Qualität der Items in einem Test. Es gibt
verschiedene statistische Verfahren, mit denen die Reliabilität des Tests als innere Konsistenz
berechnet wird. Diese Verfahren geben uns Korrelationskoeffizienten an; die bekanntesten sind der
Alpha-Koeffizient und Kuder-Richardson 20 (KR-20). Die Formel zur Berechnung dieser
Koeffizienten findet sich in Anhang A. Berechnungen dieser Art werden vom Computer mithilfe
statistischer Programme wie SPSS oder dem klassischen Analyseprogramm MicroCAT durchgeführt.
Interrater-Übereinstimmung
(Übereinstimmung zwischen verschiedenen Beurteilern bei der Bewertung der gleichen
Leistung)
Intrarater-Übereinstimmung
(Übereinstimmung eines Beurteilers mit sich selbst bei der Bewertung unterschiedlicher
Leistungen in unterschiedlichen Situationen)
Natürlich ist die subjektive Bewertung stärker von menschlicher Unbeständigkeit und menschlichen
Fehlern beeinflusst, als dies bei einer Computerauswertung oder einer mechanischen Auswertung der
Fall ist. Es wäre deshalb unrealistisch, hier eine vollkommene Reliabilität zu erwarten. Es gibt
jedoch verschiedene Maßnahmen, z. B. ein ausführliches Prüfertraining, mit denen man sicherstellen
kann, dass subjektiv bewertete Tests so objektiv und zuverlässig wie möglich sind.
Diese Maßnahmen werden weiter unten in Kapitel 4 über die Bewertung des Schreibens und des
Sprechens behandelt.
Im Falle von Items mit nur einer Lösung (wie Multiple-Choice-Items), kann der Scanner die
Antworten direkt vom ausgefüllten Antwortbogen der Kandidaten einlesen und diese Informationen
an den Computer weitergeben, der dann den Gesamtpunktwert berechnet. Es wird auch immer
häufiger Software eingesetzt, die einzelne Wörter oder Sätze mit einer sehr begrenzten Anzahl
möglicher Lösungen abgleichen kann (z. B. Items zum Informationstransfer oder Lücken, die in
einem Formular ausgefüllt werden müssen); der Kandidat muss das Wort (oft in Großbuchstaben)
oder die Zahl in das entsprechende Feld im Antwortbogen schreiben.
Der Einsatz von Technologie und Computern bei der Auswertung bedeutet, dass bei solchen Tests
das Ergebnis mit einem hohen Grad an Präzision berechnet werden kann.
Bei diesem Item sind die Lösungsmöglichkeiten vielfältig (book, magazine, edition, title, song,
picture, report, work, CD-ROM usw.). Das Item könnte zwar als Wortschatzübung im Unterricht
nützlich sein, als Item in einem Test hingegen ist es ungeeignet (und wird mit Sicherheit bei der
Begutachtung abgelehnt).
Deshalb ist es wichtig, dass der Testautor schon beim Entwerfen der Items klare und korrekte
Bewertungsvorgaben (Antwortschablonen) erstellt, um sicherzustellen, dass er nur Items mit einer
geringen Anzahl möglicher Lösungen auswählt. Bei dieser Art der Auswertung durch Hilfskräfte
müssen Vorgaben zur Verfügung gestellt werden, die alle akzeptablen Lösungen aufführen. Die
Hilfskräfte sollen nicht gezwungen sein, selbst zu entscheiden, ob eine Lösung (noch) akzeptabel ist
oder nicht.
6 Modul 4 ALTE-Handreichungen für Testautoren
Das Beispiel unten zeigt einige Items und die dazugehörenden Bewertungsvorgaben:
(b) Although he took a taxi, Bill still arrived late for the concert.
In spite ..............................................................................................
BEWERTUNGSVORGABE
Die Kandidaten müssen wissen, was von ihnen erwartet wird. Bei den Items (b) und (c) oben gibt es
mehrere mögliche Lösungen, so dass der Kandidat unsicher werden könnte und dadurch Zeit
verliert, dass er sich überlegt, welches nun die wirklich richtige Antwort ist.
Eine Möglichkeit, bei Transformationsaufgaben die richtigen Lösungen einzugrenzen, besteht darin,
den Anfang und das Ende des Satzes vorzugeben und darauf zu achten, dass die richtigen Lösungen
für die Lücke eingeschränkt sind. Im folgenden Beispiel variieren die möglichen Lösungen je nach
Lücke zwischen zwei und fünf Wörtern, von denen eines das vorgegebene Wort ist.
ALTE-Handreichungen für Testautoren Modul 4 7
(a) Mike’s father started the company that Mike now runs.
set
advisable
(c) ‘This is the best hotel I’ve ever stayed in,’ my colleague said.
never
BEWERTUNGSVORGABE
Weitere Beispiele: Ein kompletter Subtest (Use of English) aus der englischen Prüfung First
Certificate in English mit Items und Bewertungsvorgaben findet sich in Anhang B.
Fundierte Standardisierungsverfahren
Teil des Prüfer- und Beurteilertrainings ist ein Verfahren, das als „Standardisierung“ bezeichnet wird
und das zum Ziel hat, bei allen eine einheitliche Bewertung der Kandidatenleistungen zu erreichen.
Klare Bewertungskriterien
Eine Bewertungsskala kann aus Abstufungen in Form von Zahlen, Buchstaben oder Bezeichnungen,
wie „gut“, „befriedigend“ usw., bestehen und enthält für jede Stufe eine Definition der
entsprechenden Leistung; dies sind die Deskriptoren. Prüfer und Beurteiler müssen die Prinzipien,
die der Bewertungsskala zugrunde liegen, gründlich verstehen, da sie mit dieser Bewertungsskala
arbeiten müssen.
i) Bewertungsverfahren
Analytische Bewertung
Bei der analytischen Bewertung vergibt der Beurteiler z. B. Punkte auf einer Skala (z. B. von 1 bis 5,
wobei 1 eine sehr schwache und 5 eine sehr gute Leistung ist), nachdem er die schriftliche Arbeit
getrennt nach verschiedenen Kriterien bewertet hat, wie z. B. Ausdrucksfähigkeit, grammatische
Strukturen oder Angemessenheit des Registers. Der Gesamtpunktwert ist die Summe der
Punktwerte, die ein Kandidat in den verschiedenen Kriterien erreicht (oder ein Profil der
Kandidatenleistung). Üblicherweise werden bei einer analytischen Bewertung sowohl sprachliche
Aspekte (Spektrum der sprachlichen Mittel und Korrektheit) als auch inhaltliche Aspekte
(Aufgabenerfüllung) bewertet.
18-20 Aufgabe erfolgreich erfüllt mit einem großen Spektrum sprachlicher Mittel und
keinen oder nur minimalen Fehlern.
16-17 Kann mehr produzieren als eine Ansammlung einfacher Sätze. Macht nur
gelegentlich Fehler. Aufgabe erfolgreich erfüllt.
11-15 Einfache aber korrekte Ausführung der Aufgabe. Gelegentliche Fehler, die aber nicht
vom Inhalt der Aussage ablenken; angemessener Ausdruck.
8-10 Die Botschaft wird vermittelt, aber Fehler sind auffällig; Aufgabe nicht durchgehend
erfüllt.
In der Bewertungsanleitung A wird nicht versucht zu definieren, was z. B. ein Testwert von 12/20
oder 6/20 bedeutet. Es ist schwierig, auf einer Skala mit 20 Punkten solche feinen Unterschiede zu
verdeutlichen. Ob Bewertungen mit dieser Skala konsistent sind oder nicht, wird daher sehr vom
Training und dem Können der Beurteiler abhängen.
12 Modul 4 ALTE-Handreichungen für Testautoren
Die Bewertungsanleitung B enthält klarere Definitionen der Kriterien als die Bewertungsanleitung
A und erlaubt den Beurteilern, sowohl die verschiedenen sprachlichen Aspekte als auch die
kommunikative Gesamtwirkung der schriftlichen Äußerung zu bewerten. Mit dieser
Bewertungsanleitung können auch Kandidaten angemessen bewertet werden, die zwar Fehler
machen, aber mutig versuchen, auch komplexere Sprache zu verwenden oder die Aufgabe auf
kulturspezifische und/oder kreative Art und Weise zu lösen.
ALTE-Handreichungen für Testautoren Modul 4 13
ii) Beurteilertraining
Im Allgemeinen kann man sagen, dass die Beurteiler umso qualifizierter und erfahrener sein müssen,
je weniger analytisch sie bewerten. Die Beurteiler müssen das Niveau und den Inhalt der Prüfung
kennen; dies ist z. B. der Fall, wenn sie ihre Lerner auf die Prüfung vorbereitet haben.
Standardermittlung
Nachdem der Test durchgeführt wurde, sieht sich der für die Prüfungsdurchführung
Verantwortliche* so viele schriftliche Arbeiten an, wie in der vorgegeben Zeit möglich ist. Es geht
darum, einen allgemeinen Eindruck davon zu bekommen, was geschrieben wurde und ob die
Aufgaben im Test zum Schreiben in Ordnung waren oder Probleme bereitet haben. Nach der
Auswahl von Beispielen, die für jede Stufe der Bewertungsanleitung repräsentativ sind, trifft er sich
mit erfahrenen Beurteilern, um die Arbeiten zu bewerten und die Bewertungen zu vergleichen und
zu diskutieren. Dabei wird auch erörtert, wie das Kriterium „Erfüllung der Aufgabe“ bewertet
werden sollte. Sobald eine Einigung bei der Bewertung erzielt wurde, wird das Ergebnis begründet
und schriftlich festgehalten. Diese bewerteten schriftlichen Arbeiten können dann als
Musterkorrekturen (Standard) im Beurteilertraining eingesetzt werden.
Standardisierungsverfahren
In den Trainingsseminaren erhalten die Beurteiler die oben erwähnten ausgewählten schriftlichen
Arbeiten (ohne die Bewertungen), um sie zu bewerten und mit dem Teamleiter über ihre
Bewertungen zu diskutieren. Diese Phase kann auch außerhalb eines Seminars stattfinden, wenn die
Beurteiler zu Hause bewerten und dem Teamleiter ihre Ergebnisse per Telefon mitteilen. Wenn die
Beurteiler bei ihren Bewertungen zu streng oder zu milde waren, müssen sie sich dem für die
Prüfung festgesetzten Standard annähern. Die in den Musterkorrekturen festgehaltenen schriftlichen
Begründungen für die Bewertung können von den Beurteilern falls nötig in der gesamten Phase der
Bewertung konsultiert werden. Es ist jedoch wichtig, dass die Beurteiler vor jedem Einsatz als
Beurteiler erneut ein solches Training durchlaufen.
Im Anhang C finden Sie einen Subtest zum Schreiben mit Musterkorrekturen, die beispielhaft
zeigen, wie die Leistungen bewertet und die Beurteiler bei ihren Bewertungen unterstützt werden.
Zu beachten: Wenn Beurteiler zum ersten Mal bewerten, wird ihnen ein Einführungsgespräch
helfen, um sie mit den technischen Einzelheiten der Korrektur vertraut zu machen (wie Fehler
markiert werden, wie schnell bewertet werden soll, wann die bewerteten Arbeiten zurückgeschickt
werden müssen, welche Hilfen sie von erfahrenen Prüfern bekommen können usw.).
*
Anmerkung der Übersetzerin:
Das Fallbeispiel bezieht sich auf die Prüfungen von Cambridge ESOL. Bei diesem Prüfungssystem gibt es
weltweit für jede Prüfung Chief Examiners, die für die Durchführungen einer bestimmten Prüfung in ihrem
jeweiligen Land verantwortlich sind. Die Prüfer und Beurteiler sind in Teams organisiert, die von einem
Gruppenleiter betreut werden, der dem Chief Examiner unterstellt ist.
14 Modul 4 ALTE-Handreichungen für Testautoren
iii) Mehrfachkorrektur
Eine Mehrfachkorrektur erhöht die Reliabilität. Bei einer holistischen Bewertung der schriftlichen
Arbeiten ist es üblich, die Arbeiten von einem zweiten Beurteiler bewerten zu lassen, so dass alle
Arbeiten von mehr als einem Beurteiler bewertet werden. Wenn zwei Beurteiler zu sehr
unterschiedlichen Bewertungen kommen, wird die Arbeit von einem dritten Beurteiler bewertet.
Dies kann der Gruppenleiter oder der Chief Examiner sein.
Die Bewertungen können auch in einer gemeinsamen Sitzung mit allen Beurteilern stattfinden, um
alle schriftlichen Arbeiten aus einer Prüfungsdurchführung zu bewerten. Dies macht es möglich, das
Tempo und die Genauigkeit der Bewertungen zu kontrollieren und dabei statistische Informationen
über die Interrater- und die Intrarater-Reliabilität zu erhalten. So können Beurteiler, die
inkonsistent bewerten oder die durchgehend strenger bzw. milder bewerten als der Rest der Gruppe,
identifiziert werden. Dadurch lässt sich auch feststellen, welche Arbeiten ein weiteres Mal bewertet
werden sollten. Darüber hinaus wird deutlich, welche Beurteiler ein weiteres Training brauchen oder
welche man in Zukunft nicht mehr beauftragen sollte.
Trainingsseminare
Die auszubildenden Prüfer nehmen dann z. B. an zwei Seminaren teil, die jeweils einen halben Tag
dauern.
In der ersten Sitzung wird der erste Teil der Prüfung, das Prüfungsgespräch, besprochen:
das Format und das Prüferverfahren werden diskutiert
Arbeitsblätter werden ausgefüllt, um sicherzustellen, dass die Seminarteilnehmer das
System verstanden haben
die Bewertungsskalen und die Deskriptoren werden vorgestellt
sechs Videoaufnahmen werden gezeigt, um die Bewertung mündlicher Leistungen zu üben
die Bewertungen und eventuell aufgetretene Probleme werden diskutiert; anhand von
Musterbewertungen wird verdeutlicht, wie die Testwerte für die Kandidaten zustande
kamen
In der zweiten Sitzung werden verwaltungstechnische Fragen und der zweite Teil der Prüfung
besprochen:
drei Paare mit Kandidaten werden gezeigt, die sich freiwillig für die Video-Aufnahmen zur
Verfügung gestellt haben; die Seminarteilnehmer bewerten die Leistungen.
die Bewertungen und eventuell aufgetretene Probleme werden diskutiert; anhand von
Musterbewertungen wird verdeutlicht, wie die Testwerte für die Kandidaten zustande
kamen
Manchmal nehmen auch freiwillige Kandidaten an einem Trainingsseminar teil. Sie können dann
von den Seminarteilnehmern „geprüft“ werden. Durch diese Übung verstehen die Prüfer und die
Kandidaten den Prüfungsablauf besser, inklusive solcher Aspekte wie Zeitmanagement,
Sitzordnung, Einsatz der Prüfungsunterlagen, Eintragen der Bewertungen in das
Bewertungsformular usw.
16 Modul 4 ALTE-Handreichungen für Testautoren
Standardisierung
Nachdem die Prüfer geschult wurden, müssen sie regelmäßig an Standardisierungsverfahren
teilnehmen, um sicherzustellen, dass ihre Bewertungen konsistent bleiben. Das
Standardisierungsverfahren kann aus folgenden Schritten bestehen:
Für die Standardisierung werden Videoaufnahmen von mündlichen Prüfungen produziert;
eine Gruppe erfahrener Prüfer bewertet die Lerner und hält die Begründungen für die
vergebenen Bewertungen schriftlich fest.
Die übrigen Prüfer sehen sich die Videos an und bewerten die Kandidaten anhand
schriftlicher Vorgaben.
Die Prüfer diskutieren ihre Bewertungen, vergleichen sie mit den Bewertungen und
Kommentaren dazu auf dem Standardisierungsvideo und passen – wo erforderlich – ihre
Bewertungen an.
Die Prüfer sehen sich eine letzte Aufnahme an. Der Gruppenleiter sammelt danach die
Bewertungen ein und prüft sie. Er gibt allen Prüfern, deren Bewertung nicht der
Leistungsstufe entsprach, eine entsprechende Rückmeldung.
Das Prüferskript
Die Anweisungen im Prüferskript (engl. interlocutor frame) steuern die Sprache der Prüfer. Sie sind
eine weitere Maßnahme, um den Prüfungsablauf zu standardisieren und ihn so einheitlicher, weniger
subjektiv und fairer gegenüber den Kandidaten zu gestalten. Die Videoaufnahmen, die zu
Trainingszwecken produziert werden, sollten einen effektiven Umgang mit dem Prüferskript zeigen,
z. B. dadurch, dass der Prüfer die Prüfungsfragen so gut kennt, dass er sie nicht ständig von seinem
Skript ablesen muss.
Wenn kein Prüferskript eingesetzt wird, müssen die Prüfer darin geschult werden, sorgfältig auf
ihre Sprache zu achten und immer daran zu denken, dass sie die Kandidaten zur bestmöglichen
Leistung anspornen sollen. Prüfungsgespräche zu üben, die auf Video (oder Tonband) aufgenommen
und in Trainingsseminaren diskutiert werden, helfen den Prüfern, Dinge in ihrem Verhalten zu
erkennen, die verbessert werden müssen, z. B. der Gebrauch einer Sprache, die über dem Niveau der
Prüfung liegt, das Stellen von Fragen, auf die nur mit Ja oder Nein geantwortet werden kann oder
ein zu großer Redeanteil während der Prüfung.
Es wird manchmal behauptet, dass ein Prüferskript eine „echte Kommunikation“ zwischen Prüfer
und Kandidat verhindert, da der Prüfer nicht spontan auf das antworten kann, was der Kandidat
sagt. Diese Kritik muss man abwägen gegenüber der Frage der Fairness, besonders bei
internationalen Prüfungen mit großen Kandidatenzahlen, wo die Prüfung in jedem Land
hinsichtlich Inhalt und Durchführung gleich sein soll.
Die Bewertungsanleitung
Eine Bewertungsanleitung muss so detailliert sein, dass sie unterschiedliche Leistungen erfassen
kann, aber nicht so detailliert, dass sie nicht mehr handhabbar ist in einer Situation, in der sehr
schnelle Entscheidungen gefällt werden müssen. Die Leistungsbeschreibungen müssen auf den
verschiedenen Stufen klar und eindeutig formuliert sein und sich auf Aspekte der Performanz
beziehen, die der Prüfer leicht beobachten kann.
Prüfer müssen sich auch über den 'Halo-Effekt' im Klaren sein. Dieser bedingt, dass gute Leistungen
in einem Bereich, z. B. in der Aussprache, den Prüfer dazu verleiten könnten, andere, schwächere
Bereiche zu milde zu bewerten. Sie müssen auch vermeiden, einen Kandidaten mit den vorherigen
Kandidaten zu vergleichen, und darauf achten, seine Leistung nur im Hinblick auf die
Bewertungskriterien zu bewerten.
ALTE-Handreichungen für Testautoren Modul 4 17
Das folgende Beispiel zeigt ein Bewertungsraster. Es werden für sechs Kriterien Punkte vergeben,
die zusammen das Profil der mündlichen Leistung eines Kandidaten ergeben. Bei jedem Kriterium
können 0 bis 5 Punkte vergeben werden, die von Natürlichkeit und Angemessenheit (5) bis zu
Unverständlichkeit (0) reichen. Innerhalb eines jeden Feldes gibt es keine Bestehensgrenze für dieses
Kriterium, da die Punkte für alle Kriterien zusammengezählt werden und einen Gesamtpunktwert
ergeben (aus einem Maximum von 30).
sozialen Interaktion
kommunizieren zu erleichtern
Das Bewertungsraster oben wird in einer mündlichen Prüfung für Englisch eingesetzt. Die
Bewertungsskala, die diesem Bewertungsraster zugrunde liegt, findet sich auf der nächsten Seite.
18 Modul 4 ALTE-Handreichungen für Testautoren
Vollständiges Großes Spektrum Weitgehend Gut aufgebaut – die Beabsichtigte Gelegentlich Aufgabe erfüllt, aber
B Spektrum an Grund- des Wortschatzes für korrekter und Hauptpunkte Bedeutung wird in fast notwendig auf ein oder zwei
strukturen, die mit die alltägliche durchgehender werden voneinander allen Kontexten Anforderungen der
wenigen Fehlern Kommunikation, Gebrauch der abgesetzt und in kommuniziert; beginnt Aufgabe wurde
verwendet werden; aber nicht immer meisten Aspekte der angemessener Interaktion und hält sie nicht eingegangen.
Fehler bei ausreichend für eine Aussprache; Abfolge aufrecht; gelegentliche
komplexen Diskussion; kaum muttersprachlicher vorgebracht; meist Schwierigkeiten, auf
Strukturen. Zögern bei der Einfluss nicht guter Gebrauch von Themenwechsel
Wortwahl. störend. verbindenden einzugehen.
Elementen.
Korrekter Gebrauch Ausreichender Gelegentlich falsche Eingeschränkte Wichtige Gedanken Häufig Aufgabe nur
C der Grundstruk- Wortschatz für Aussprache, aber Wirkung; einige werden kommuniziert; notwendig teilweise erfüllt; auf
turen; fehlerhafter alltägliche immer noch ver- verbindende setzt Kompensations- mehrere Anfor-
Gebrauch komplexer Situationen; ständlich; deutlicher Elemente werden strategien ein; einige derungen der Auf-
Strukturen, der geringes Zögern bei muttersprachlicher nicht angemessen Schwierigkeiten, die gabe wurde nicht
gelegentlich zu der Wortwahl. Einfluss, aber eingesetzt; gelegent- Interaktion zu beginnen eingegangen.
Missverständnissen verständlich. lich Klärungsfragen und auf Themenwechsel
führt. oder Wiederho- einzugehen.
lungen notwendig.
Fehlerhafter Eingeschränktes Fehler in der Schlecht aufgebaut – Die Hauptgedanken Durchgehend Aufgabe nicht
D Gebrauch vieler Spektrum des Aussprache führen keine verbindenden werden nur in notwendig erfüllt; es wurde
Grundstrukturen; Wortschatzes; nur manchmal zu Elemente; häufig eingeschränkten nicht auf die An-
seltener und ausreichend für unverständlichen unangemessene Kontexten kom- forderungen der
fehlerhafter einfache alltägliche Äußerungen; Abfolge; nur muniziert; Kompen- Aufgabe ein-
Gebrauch komplexer Situationen; häufiges häufige schwere eingeschränkte sationsstrategien gegangen.
Strukturen; häufig Zögern bei der Fehler behindern die Beherrschung der werden selten
Probleme, sich klar Wortwahl. Kommunikation. Diskurs- und eingesetzt; beginnt
auszudrücken. Gesprächsroutinen. selten die Interaktion
und hat Schwierig-
keiten, auf Themen-
wechsel einzugehen.
Fehlerhafter Nur einige Wörter Fehlerhaft und Keine Beherrschung Große Schwierigkeiten
E Gebrauch fast aller oder kurze Sätze; uneinheitlich; der Regeln des bei der Kommuni-
Grundstrukturen; meistens nicht weitgehend Diskurses oder des kation; beherrscht
keine komplexen ausreichend für eine unverständlich. Gesprächs; man keine Kompensations-
Strukturen; Kommunikation. kann dem Gesagten strategien; braucht
weitgehend nicht folgen. Partner, um Interaktion
unverständlich. aufrechtzuerhalten.
ALTE-Handreichungen für Testautoren Modul 4 19
Die Testmaterialien
Dem Prüfer muss genügend Testmaterial zur Verfügung gestellt werden, damit er zu Beginn der
Prüfung schnell entscheiden kann, welches das beste Material für den jeweiligen Kandidaten ist.
Noch ein weiterer Faktor trägt bei Tests zum Sprechen zu einer fairen Bewertung bei. Wenn z. B.
ein Kandidat zu Beginn der Prüfung äußert, dass er sich nicht für Sport interessiert, kann der Prüfer
entscheiden, die Materialien zum Thema Sport in den weiteren Phasen der Prüfung nicht
einzusetzen.
Bei Tests zum Sprechen müssen die Materialien flexibel eingesetzt werden und die Aufgaben für
Kandidaten unterschiedlichen Alters und mit unterschiedlichen Voraussetzungen geeignet sein.
Diese Notwendigkeit muss auch den Testautoren bewusst sein.
ANHANG A
Formeln zur Ermittlung der Reliabilität eines Tests
Formel für:
Cronbachs Alpha (Alpha-Koeffizient)
k ⎡ ∑ si ⎤
2
α= ⎢1 − ⎥
k −1 ⎢ s ⎥⎦
2
⎣
Formel für:
Kuder-Richardson 20 (K-R20)
k ⎡ ∑ pq ⎤
r= ⎢1 − ⎥
k −1 ⎢ 2
s ⎥⎦
⎣
ALTE-Handreichungen für Testautoren Modul 4 21
ANHANG B
Beispiel für einen Subtest mit Bewertungsvorgabe
Es handelt sich um die Prüfung First Certificate in English (FCE) und hier um den Subtest „Use of
English“ (FCE Paper 3) von Juni 2004.
Der Subtest auf den nächsten Seiten besteht aus fünf itembasierten Aufgaben. Diesen Aufgaben
folgen der Lösungsschlüssel und die Bewertungsvorgabe für diesen Subtest.
Die Hilfskräfte müssen der Bewertungsvorgabe strikt folgen und in Zweifelsfällen den
Gruppenleiter fragen.
22 Modul 4 ALTE-Handreichungen für Testautoren
Example:
0 A B C D
SHOPPING MALLS
Victor Gruen, an American architect, revolutionised shopping in the 1950s by creating the
type of shopping centre that we now (0) ..... a shopping mall.
Gruen’s (1) ..... was to provide a pleasant shopping environment in the suburbs. This (2) .....
shutting out the noise of the city environment and also enabling people to shop in all kinds
of weather. He (3) ..... on using building designs that he knew people would feel (4) .....
with, but placed them in landscaped ‘streets’ that were entirely enclosed and often covered
with a curved glass roof. This was done to (5) ..... some of the older shopping arcades of
city centres, but (6) ..... these housed only small speciality shops, Gruen’s shopping malls
were on a much grander (7) ..... .
Access to the whole shopping mall was gained by using the main doors, which (8) ..... the
Shopping ‘streets’ from the parking (9) ..... outside. As there was no need to (10) ..... out
bad weather, shops no longer needed windows and doors, and people could wander (11)
..... from shop to shop. The space(12) ..... to build a shopping mall and its vast car parks
can usually only be found in the suburbs or on the (13) ..... of the city. In many cities,
shopping malls now (14) ..... much more than just shops; cinemas, restaurants and other
forms of entertainment are also (15) ..... in popularity.
Page 19
ALTE-Handreichungen für Testautoren Modul 4 23
Part 2
For questions 16-30, read the text below and think of the word which best fits each space.
Use only one word in each space. There is an example at the beginning (0).
Example:
0 among
DICTIONARIES
Dictionaries are (0) ................ the most important tools of self-education. (16) ..........
Samuel Johnson wrote his influential English dictionary in the eighteenth century, the work
kept him busy for seven years. At the end of that period, he (17) .......... written the
meanings of over forty thousand words. Most modern dictionaries require a (18) .......... deal
less time and effort to write because writers often use earlier dictionaries (19) .......... a
source of reference.
(20) .......... it is possible for one person to write a dictionary alone, most dictionaries are
team efforts. First of all, the writers, or lexicographers, draw up the rules that will guide their
writing. For example, if a word has two meanings, they (21) .......... to agree about which
order to put them (22) .......... . However, for much of the time, team members are able to
work independently of (23) .......... other, on different parts of the dictionary.
(24) .......... one time, the starting point for deciding on those words to include used to be the
lexicographer’s own knowledge. These days, some teams (25) .......... use of a large
collection of examples of (26) .......... only writing but also everyday speech, which is known
as a corpus. Teams also refer (27) .......... books and articles about language as (28) ..........
as asking experts in particular subjects about the more specialised words. Finally, ordinary
people are asked to say what they think about the (29) .......... the words are defined and
(30) .......... they find the examples provided helpful or not.
ALTE-Handreichungen für Testautoren Modul 4 25
Part 3
For questions 31-40, complete the second sentence so that it has a similar meaning to the
first sentence, using the word given. Do not change the word given. You must use
between two and five words, including the word given. Here is an example (0).
Example:
Carry
The space can be filled by the words ‘carry out the manager’s’, so you write:
32 Unfortunately, Kim couldn’t go to the cinema because she didn’t have any money.
able
If Kim had had some money, she ....................................................... go to the cinema.
Part 4
For questions 41-55, read the text below and look carefully at each line. Some of the lines
are correct, and some have a word which should not be there.
If a line is correct, put a tick (√) by the number on the separate answer sheet. If a line has
a word which should not be there, write the word on the separate answer sheet. There are
two examples at the beginning (0 and 00).
0 √
Examples:
00 more
MY GRANDMOTHER
Part 5
For questions 56-65, read the text below. Use the word given in capitals at the end of each
line to form a word that fits in the space in the same line. There is an example at the
beginning (0).
Example:
0 tropical
With its (0) ................. sunshine and warm welcome, this island is TROPIC
hard to beat as a holiday destination. The (56) .......... west coast is the DELIGHT
perfect (57) .......... for lovers of water sports and sunbathing. There is CHOOSE
also an (58) .......... selection of restaurants, where the local seafood IMPRESS
is (59) .......... recommended, and beaches of fine white sand face on to the HIGH
calm Caribbean Sea.
Other (60) .......... on the island include underwater trips in a submarine and ATTRACT
a jazz festival held (61) .......... , early in January. It is also worth travelling ANNUAL
along the wild east coast, which is often (62) .......... as it faces the Atlantic STORM
Ocean. This makes the coast (63) .......... for swimming, unlike the calmer SUITABLE
beaches on the west coast. Car hire is (64) .......... arranged here, and EASY
there is a good road system, with a very (65) .......... bus service to take RELY
you around the island.
ALTE-Handreichungen für Testautoren Modul 4 29
11 A 26 not
12 B 27 to
13 C 28 well
14 A 29 way
15 B 30 whether
30 Modul 4 ALTE-Handreichungen für Testautoren
ANHANG C
Beispiel für einen Subtest zum Schreiben
mit Bewertungsanleitungen und Musterkorrekturen
First Certificate in English, Subtest 2
Der folgende Subtest zum Schreiben wird von geschulten Beurteilern mit verschiedenen
Bewertungsanleitungen bewertet, die im Anschluss an die Aufgaben vorgestellt werden.
Die schriftlichen Arbeiten der Kandidaten, die im Anschluss an die Bewertungsanleitungen gezeigt
werden, wurden vom Chief Examiner für die Musterkorrektur ausgewählt und sollen typische
Leistungen auf bestimmten Stufen exemplifizieren. Die Trainings- und Standardisierungsverfahren
für die Beurteiler werden im Kapitel „4 a) Tests zum Schreiben“ in diesem Modul beschrieben.
ALTE-Handreichungen für Testautoren Modul 4 31
Instructions to candidates
Answer Question 1 and one of the Questions 2-5.
Each question in this paper carries equal marks.
Part 1
You must answer this question.
1 You are a student at a college in England and you have seen the article below in the
college newsletter. Read the article and the notes you have made. Then write a letter to
David Brown, the College Director, using all your notes.
Page 15
Write a letter of between 120 and 180 words in an appropriate style on the opposite page.
Do not write any postal addresses.
32 Modul 4 ALTE-Handreichungen für Testautoren
Part 2
Write an answer to one of the questions 2-5 in this part. Write your answer in 120-180
words in an appropriate style on the opposite page. Put the question number in the box at
the top of page 5.
2 A British TV company is thinking of making a film about life in your area and has asked
you to give them some information. Write a report describing the advantages of living in
your area and saying how the area might change in the future.
COLOUR
• What is your favourite colour and why?
• Why is colour so important in our lives?
Write us an article answering these questions.
The best article will be published in the magazine.
4 You have had a class discussion about sport. Now your English teacher has asked you
to write a composition discussing the following question:
5 Answer one of the following two questions based on your reading of one of these set
books. Write the letter (a) or (b) as well as the number 5 in the question box, and the title
of the book next to the box. Your answer MUST be about one of the books below.
Either (a) An international magazine is looking for articles about brave characters in
[Link] an article describing a character and explaining why you think that character
shows courage in the book or short story you have read.
Or (b) ‘At the end of a story, all the reader’s questions are answered.’ How true is this of
the book or short story you have read? Write a composition explaining your views with
reference to the book or short story you have read.
ALTE-Handreichungen für Testautoren Modul 4 33
BEWERTUNGSVERFAHREN
Jede schriftliche Arbeit wird auf einer Stufe zwischen 0 und 5 bewertet; die jeder Stufe
entsprechenden Leistungen werden in der aufgabenunabhängigen Bewertungsanleitung beschrieben.
Jede der fünf Leistungsstufen wird in drei Unterstufen unterteilt, zum Beispiel 3.1, 3.2, 3.3 (um die
Leistung auf einer bestimmten Stufe zusätzlich noch zu qualifizieren). Bei der Bewertung mit der
aufgabenspezifischen Bewertungsanleitung erfolgen Punktabzüge, wenn der Kandidat die dort
genannten Anforderungen nicht erfüllt.
LÄNGE
Es werden 120-180 Wörter verlangt.
Wird dieser Umfang unterschritten (50-100 Wörter), wird die Leistung gemäß den Leistungsstufen
1 und 2 der aufgabenunabhängigen Bewertungsanleitung bewertet. Arbeiten mit weniger als 50
Wörtern werden mit 0 bewertet.
Wird der Umfang überschritten (mehr als 200 Wörter), liest der Beurteiler zunächst die ganze
Arbeit. Beim zweiten Lesen zieht er eine Linie dort, wo der korrekte Umfang erreicht wurde und
bewertet dann nur den Text oberhalb dieser Linie.
ABSÄTZE
Dies betrifft das Kriterium Aufbau, siehe auch „Aufbau und Kohäsion“ in der aufgabenspezifischen
Bewertungsanleitung.
HANDSCHRIFT
Wenn die Handschrift des Kandidaten die Kommunikation beeinträchtigt, ohne sie zu verhindern,
wird die Leistung eine Stufe niedriger bewertet. Unlesbarkeit wird mit einem Punktwert von 0
bewertet.
34 Modul 4 ALTE-Handreichungen für Testautoren
Aufgabenunabhängige Bewertungsanleitung
0 Der Kandidat erreicht nichts. Zu wenig Sprache (unter 50 Wörtern), um sie zu bewerten,
irrelevanter Inhalt oder unleserliche Handschrift.
ALTE-Handreichungen für Testautoren Modul 4 35
Diese Bewertungsanleitung sollte vor dem Hintergrund einer typischen Leistung auf dem Niveau
des First Certificate in English (B2) interpretiert und zusammen mit der aufgabenspezifischen
Bewertungsanleitung angewendet werden. Innerhalb jeder Leistungsstufe (engl.: band) können drei
Abstufungen vorgenommen werden. Eine Leistung mit einem Testwert von 3.1 wäre eine auf dem
Niveau des FCE befriedigende Leistung und ein Testwert von 5.3 wäre eine hervorragende Leistung
auf dem Niveau des FCE, wobei die Arbeit nicht völlig fehlerfrei sein muss.
AUFGABE 1
INHALT
Der Brief muss alle folgenden Punkte enthalten:
1) ausdrucksvolle positive Reaktion auf das Geschenk.
2) Hinweis darauf, dass die Studenten genug Sport treiben und/oder ausreichende Sportanlagen
zur Verfügung stehen.
3) Hinweis darauf, dass ein Schwimmbad nicht gewünscht wird.
4) Hinweis darauf, dass das Schwimmbad nicht den Garten ersetzen soll und/oder Begründung,
warum die Studenten den Garten mögen.
5)Vorschlag, wie man das Geld anderweitig verwenden könnte.
ADRESSAT
Er wäre informiert.
36 Modul 4 ALTE-Handreichungen für Testautoren
AUFGABE 2
INHALT
Der Bericht sollte die Vorteile der Wohngegend beschreiben, in der der Verfasser wohnt, sowie mögliche
zukünftige Veränderungen. Es ist nicht erforderlich, die Gegend zu benennen.
ADRESSAT
Er wäre informiert.
AUFGABE 3 AUFGABE 4
INHALT INHALT
Der Artikel sollte die Lieblingsfarbe(n) beschreiben Der Aufsatz sollte die gestellte Frage diskutieren. Es
und darstellen, warum Farbe wichtig ist. ist nicht erforderlich, die Frage mit einem definitiven
Ja oder Nein zu beantworten.
SPEKTRUM DER SPRACHLICHEN MITTEL
Sprache, um zu erklären, zu beschreiben und SPEKTRUM DER SPRACHLICHEN MITTEL
Meinungen auszudrücken. Sprache, um zu diskutieren und Meinungen
auszudrücken.
AUFBAU UND KOHÄSION
Klarer Aufbau der Gedanken mit angemessenen AUFBAU UND KOHÄSION
Absätzen und verbindenden Elementen. Klarer Aufbau der Gedanken mit angemessenen
Absätzen und verbindenden Elementen.
ANGEMESSENHEIT DES REGISTERS UND
DES FORMATS ANGEMESSENHEIT DES REGISTERS UND
Jedes Register, vorausgesetzt es wird durchgehend DES FORMATS
verwendet. Neutrales Register eines Aufsatzes.
ADRESSAT ADRESSAT
Er wäre informiert. Er wäre informiert.
ALTE-Handreichungen für Testautoren Modul 4 37
AUFGABE 5a AUFGABE 5b
INHALT INHALT
Der Schreiber sollte einen oder zwei Charakter(e) aus Der Aufsatz sollte mit der gemachten Aussage
dem Buch beschreiben und erklären, auf welche Weise übereinstimmen oder ihr widersprechen.
sie Mut zeigen.
SPEKTRUM DER SPRACHLICHEN MITTEL
SPEKTRUM DER SPRACHLICHEN MITTEL Sprache, um zu erklären und Meinungen
Sprache, um Meinungen auszudrücken, zu erklären auszudrücken.
und zu beschreiben.
AUFBAU UND KOHÄSION
AUFBAU UND KOHÄSION Klarer Aufbau der Gedanken mit angemessenen
Klarer Aufbau der Gedanken mit angemessenen Absätzen und verbindenden Elementen.
Absätzen und verbindenden Elementen.
ANGEMESSENHEIT DES REGISTERS UND
ANGEMESSENHEIT DES REGISTERS UND DES FORMATS
DES FORMATS Neutrales Register eines Aufsatzes.
Jedes Register, vorausgesetzt es wird durchgehend
verwendet. ADRESSAT
Er wäre informiert.
ADRESSAT
Er wäre informiert.
38 Modul 4 ALTE-Handreichungen für Testautoren
Question 1 Script A
Dear Mr Brown,
I am writing in response to the note in which you inform us about this fantastic news
that the college will receive new funds.
I would like to react to your intention to spend this money on building a swimming
pool. Indeed, after many conversations with other students, we unfortunately disagree with
this idea because we feel that we practise enough sports with the equipments already
provided such as the gymnasium, the football pitch and the tennis courts.
Moreover, just five minutes walk from the college, there is an olympic swimming pool which
offers very interesting fares for the students.
Therefore, I would like to point at the fact that students absolutely want to preserve
‘their’ garden because it allows us to have fresh air during our breaks, this is a place where
we can relax. So we would like to preserve a little space of nature, which could be important
for our concentration.
That is why I would like to suggest you to use the money on buying new computers,
which we desperately need, or buying audio equipment for the Foreign Languages
Department for instance.
Yours sincerely,
Question 1 Script A
Stufe 5
Page 56
ALTE-Handreichungen für Testautoren Modul 4 39
Question 2 Script B
About life in my area is Malaysia. I born in malaysia. In the malaysia the wherther is very
hot and sunshine.
In my country got many nice place and the nice food in there. Seaside is very popular in my
country. There very shinewy people like swimming and take boat go around the sea. In the
night there walk in the beach. In my country have the night market. In the market many
thing to sell. There have food. Clote, drink, CD movie, muzie and many thing there would
many people eat in there.
Question 2 Script B
Stufe 1
Page 5
40 Modul 4 ALTE-Handreichungen für Testautoren
Question 3 Script C
COLOUR IS LIFE
To my opinion, nothing is more beautiful than a rainbow: it’s ‘the result of the fight between
sun and rain’. In other words, colour is the way to express our feelings.
But I have noticed that people, included me, have a tendancy in wearing bright colours
when they are happy, and dark colours when they are not. Why?
I think colours can be qualified as a language. You can guess people personality by looking
at their clothes, car, or else. But colours can influence our mood too. If we were living in a
black and white world, people wouldn’t be happy I think, everybody would be depressed.
Colour gives life to anything. And there is no doubt that people feel better surrounded by
colour.
For a happy world, we need colour in our lives, because colour is life.
Question 3 Script C
KORREKTHEIT: Fehler lenken den Leser nicht ab, obwohl einige Flüchtigkeitsfehler
enthalten sind
Stufe 4
Page 58
ALTE-Handreichungen für Testautoren Modul 4 41
Question 4 Script D
Although I’ve been an apassionate of football since i was a child, I think that footballers
should not be paid more than doctors.
Question 4 Script D
KORREKTHEIT: einige irritierende Fehler und einige, die das Verständnis beeinträchtigen
Stufe 2
Page 59
42 Modul 4 ALTE-Handreichungen für Testautoren
Question 5a Script E
One of the brave characters in book ‘Round The World In Eighty Days’ written by Jules
Verne is Mr. Phileas Fogg. He makes a bet with his friends from The Reform Club that he
can travel round the world in eighty days. He can loose everything if he doesn’t do so. Don’t
you think it is a good start how to prove he’s such a brave English gentleman? I bet you do.
It is a colourful race through Europe, Asia and America follows. They experience a lot of
unexpected situations and delays. Mr Phileas Fogg and his French servant Passepartout
face a danger travelling through India.
Let me tell you about one of the story I have read. As they travel through India meeting
Indians priests who want to burn a beautyfull princess Aouda. They make a plan how to
save her life. If Mr Fogg is not a brave man, he’ll continue his journey without stoping and
he wouldn’t even think about saving Aouda. Of coure they were successful.
I can strongly recommended this book to anyone who is looking for a remarkable read.
Question 5a Script E
KORREKTHEIT: einige Fehler, die aber nicht das Verständnis beeinträchtigen, besonders
in der 2. Hälfte
Stufe 3