[A#10, P4] Evaluation of the test results and final project description

1. Evaluate your test results

What method(s) did you use to evaluate the results of your usability test? How did you evaluate the results?

Wir haben darüber nachgedacht, die Ergebnisse systematisch über Affinity Diagramming oder wie bei der letzten Evaluation über eine graphische Verdeutlichung direkt am Prototypen auszuwerten. Allerdings waren die Ergebnisse nicht dafür geeignet. Dies liegt vor allem daran, dass die Testsessions überwiegend damit verbracht werden mussten, den Probanden zu erklären, was überhaupt ein Schema ist und warum Jurastudenten diese Schemata brauchen und wofür sie diese verwenden. Aufgrund des bereits klar strukturierten Feedbacks wurde sich also dafür entschieden, die qualitativen Ergebnisse durch eine einfache erneute Durchsicht der Mitschriften zu evaluieren. Die quantitativen Ergebnisse (Messung der Satisfaction und der Effectiveness) wurden zwar tabellarisch ausgewertet (siehe unten) allerdings nicht weiter beachtet, da diese Werte keine Aussagekraft für uns geliefert haben, da die Satisfaction und die Effectiveness stark davon abhängen, ob die getestete Person fachkundig oder Novize in Jura ist.

What did you learn from the testing? What are your main takeaways?

Am Ende haben sich in den qualitativen Ergebnissen (Notizen während des Testens) drei Anmerkungen von allen Probanden herausgestellt:

  1. Hierarchisierung während der geleiteten Schemaerstellung verdeutlichen,
  2. Quellenangaben bei Definitionen und Meinungenstreiten hinzufügen und
  3. Während der geleiteten Schemaerstellung Informationen zum gerade abgefragten Punkt bereitstellen (z.B. Definition) – beispielsweise über einen Tooltip.

Der letzte Punkt ist jedoch an dieser Stelle nicht repräsentativ, da es sich bei den Probanden nicht um Juristen oder Jurastudenten handelte und somit nicht klar ist, ob diese tatsächlich solche Hinweise benötigen oder wünschen.

Satisfaction:

ProbandEinschätzungKommentar
1keine AngabeNicht möglich zu sagen. Kommt auf das Wissen der Student*innen an. Bedienung an sich sehr leicht, aber dies kommt von Abstrahierung, welche es dann in der eigentlichen Benutzung sehr schwer machen kann.
2leicht (5)für mittelgute Studenten (für Novizen allerdings sehr schwer, für Experten sehr leicht)
3sehr leicht (7)
Quantitative Ergebnisse auf die Frage: Wie einfach oder schwer war die Aufgabe insgesamt zu bewältigen? – Skala vorgegeben

Effectiveness:

Test: geleitete Schemaerstellung
Completion: Alle Probanden konnten die Aufgabe komplett abschließen

ProbandBenötigte Zeit
112 min
214 min
38 min
Quantitative Ergebnisse durch mitstoppen der Zeit.

Durchschnittliche Zeit: ~11 min.
Anmerkungen: Es wurden während der Bearbeitung viele fachliche Fragen gestellt, welche die Bearbeitung teilweise immens verzögerten.

2. Project description

Image 1: 1000x500px – Overview of the main menu
Detail of „Aktenkoffer“ – JuurMates version of saved data. We hereby try to match the title and icon to what the User already knows in his/her daily use.

Name: JuurMate – Your Mate for Law-Studies

Name of all group members: Anil, Simon, Tobias

Project description Text: Studying law is very learning-intensive. Because of the massive amount of content it is very easy to lose track of things. When checking a legal issue (which is a very common task throughout university) you have to proceed in a structured way. To do so, there are standardized test schemes. Those test schemes are highly variable and nested. In certain cases some points are more important than others, some also may be irrelevant at all, some have to be expanded and so on. The problem with the present system (e.g. many different documents) is that those are not dynamic at all. This can lead to the usage of 10 or more different schemes to complete one assignment for university.
JuurMate is a desktop application that was specifically designed to dynamically create those schemes and thereby combine all necessary subschemes into one. This leads to a much more clearer overview about what has to be done to complete the given task for the student. JuurMate is a real live(time)-saver!

Additional Images:

Example of guided creation of Schemes
Example of Overview of the created scheme
Example of additional information that is shown next to the overview of the created scheme
Example of the „Aktenkoffer“
JuurMate – Text-based Logo

Link to prototype: Click here (may not be online after completion of studies)

Dark Patterns

Beim Dark Pattern geht es um ein Benutzerschnittstelle-Design, das es versucht, NutzerInnen dazu zu bringen, Aktionen auszuführen, die sie eigentlich gar nicht wollen. Die Idee dahinter ist es, dass man es leicht macht, in eine Situation hineinzukommen, aber sehr schwer, wieder herauszukommen.

Hauptsächlich wird beim Dark Pattern das Wissen über menschliches Verhalten ausgenutzt, um trügerische Funktionalitäten zu implementieren, die gegen das Gute Interesse bei BenutzerInnen wirkt. Es gibt eine Reihe mit verschiedenen Arten von Dark Patterns wie Confirmshaming, Misdirection, Bait-and-switch, etc.

Beispiel über Dark Pattern: Eine entsprechende Mitgliedschaft bei Amazon ist sehr leicht abzuschließen. Die Frage, wie man sein Amazon-Konto später löscht, ist eine interessante Frage, wo man die Antwort nur schwer bekommen kann.

[A#9, P6] Go Walkies

(1) Improve your high-fidelity prototype

Gruppe 2 hat bei uns 17-19 Makel festgestellt, die folgenden erschienen ihnen am Wichtigsten:

  • Link zur Startseite mit Logo (links oben) ist nicht offensichtlich, die User wussten nicht direkt, wie sie zurück zur Startseite gelangen.
    • wie vorgeschlagen, werden wir das Wort „Startseite“ hinzufügen
    • anschließend werden User erkennen, dass das Logo (und das Wort „Startseite“) im Kasten zur Homepage zurückführen
  • Bei den „Buddies in meiner Nähe“ war den Usern unklar, ob das noch „meine“ Buddies sind, oder ganz andere Leute. Das hat die Nutzenden sehr verwirrt.
    • um dieses Missverständnis zu klären, werden die Buddies auf dieser Seite nur „User“ genannt
    • die Änderung sollte helfen, dass unsere User wissen, sie müssen nicht mit den Usern auf dieser Seite befreundet sein, damit sie hier angezeigt werden
  • Top5-Buddies Seite ist nicht richtig verlinkt von der Startseite aus. Dieses ist nur ein kleiner Makel und typisch für einen Prototypen in diesem Stadium.
    • die Top5-Buddies Seite ist der Start der Buddiesseiten und sollte daher von der Startseite erreichbar sein, dieser Link wird einfach getauscht
    • anschließend sind die User nicht mehr verwirrt, wenn sie von beiden Menüs auf dieselbe „Startseite“ gelangen
  • Menüfarben vom Sidemenü passen nicht zu den Farben im Header. Das ist eine subjektive Meinung und hat keine maßgebende Severität.
    • dies werden wir vielleicht nicht ändern, da ein buntes Sidemenü doch sehr aufdringlich ist
  • Schriftfarben stimmen nicht auf allen Seiten überein, das soll aber nicht weiter schlimm sein. Das werden wir überprüfen und uns auf eine Schriftfarbe einigen, die überall benutzt wird
    • mit einheitlichen Schriftfarben sollte es zu keinen Unstimmigkeiten beim Anblick unseres UserInterfaces mehr kommen

Wir werden folgende dieser von der Gruppe 2 dargestellten Probleme in Angriff nehmen.

  • Link zur Startseite ist jetzt beschriftet mit „Startseite“
  • Verlinkungen auf der Homeseite sind für Buddy-Seiten da
  • einheitliche Überschriften auf jeder Seite

(2) Preparation for a summative evaluation

1. What are things you would like to do differently this time?

Wir haben nach den letzten Evaluationen festgestellt, dass unsere Aufgaben nicht sehr genau waren und sie gerne etwas mehr aufteilen wollen (siehe Assignment 6). Inzwischen können wir sogar noch Aufgaben hinzufügen, wie wir es für die Heuristic Evaluation (Assignment 8) getan haben.
Mit unserer Aufteilung der Rollen für’s Usability Testen waren wir sehr zufrieden.

(2+3+4) What documents do you need?

Testskript

https://cryptpad.fr/pad/#/3/pad/edit/404621470fcb0b35d66cf574d45226ab/ (Testskript)

Testperson:
Datum:
Beginn / Startzeit:
Ende / Endzeit:
Max. Zeit: 

(1) Einführung

Vorstellungsrunde + Aufgabenerklärung
Wir testen die App – oder genauer, einen digitalen interaktiven Prototypen. Wir testen nicht dich!
Wir nehmen zur nachträglichen Auswertung die digitale Testung auf. Die Aufzeichnung bleibt bei uns intern und wird direkt nach der Auswertung gelöscht. Es wird nur das Audio aufgenommen. Du selbst bist nicht zu sehen.
Stelle gerne Fragen! Ich kann aber nicht versprechen, alle Fragen direkt zu beantworten!

(2) Kontext der Anwendung erklären

GoWalkies ist eine WebApp mit der es möglich sein soll, Gassirouten zu planen. GoWalkies bietet dazu an, vorgefertigte Routen auszuwählen und zu verändern. Im Rahmen dieses Usability Test möchten wir die Schnellroutenplanungs-Funktion (anhand unsere digitalen Papierprototypen) testen und Feedback dazu einholen.


(3) Szenario(s) 

Du kommst nach einem langen Arbeitstag im Büro (vor dem Rechner und über Akten)  nach Hause und hast wenig Zeit, denn deine zwei Kinder und dein/e Partner/in warten auf Dich und erwarten, dass Du am häuslichen Familienleben teilnimmst. Dein zweijähriger Schäferhund braucht aber auch Auslauf – und Abwechslung. Denn Du hast selbst höhere Ansprüche, wenn man sich ein Haustier anschafft. Deshalb willst Du eine halbe Stunde raus mit dem Hund und es soll nicht jedesmal die gleiche Route sein. 

Da Deine Zeit so knapp bemessen ist, darf die Planung nicht länger als 15 Minuten dauern.

  • Du setzt dich also an den Essenstisch im Wohnzimmer,
  • öffnest deinen Laptop,
  • den Browser,
  • tippst die Adresse der Webseite von GoWalkies ein,
  • meldest Dich an und
  • legst los mit der Planung.


(4) Aufgaben

  • Aufgabe 1: Erstelle dir ein Konto (Daten werden nicht gepeichert, man kann sich aber durchklicken)
  • Aufgabe 2: Melde dich an
  • Aufgabe 3: Finde eine max. 30min lange Route
  • Aufgabe 4: Finde heraus, wie oft du bestimmte Routen bereits gelaufen bist.
  • Aufgabe 5: Finde heraus, wer die Hunde von Martin sind und was er über sich und seine Hunde schreibt.
  • Aufgabe 6: Melde dich ab

(5) Post evaluation skript

Questionnaire

Please answer the following questions. Tick the circles that best describes your answer. Please do not leave any question blank.

1. Do you have one or more dogs?  O Yes    O No

2. How would you rate yourself in the following domains?

noviceexpert
Using digital devicesOOOOOOOOOO
Using and navigating websitesOOOOOOOOOO

​​​​​​​For each word below, please indicate how well it describes the app.

Describes
the app
very poorly
Describes
the app
very well
AccurateOOOOOOOOOO
AnnoyingOOOOOOOOOO
HelpfulOOOOOOOOOO
InterestingOOOOOOOOOO
LikableOOOOOOOOOO
EasyOOOOOOOOOO
SatifyingOOOOOOOOOO
FrustratingOOOOOOOOOO
Good naming and labelingOOOOOOOOOO
Relevance of imagesOOOOOOOOOO
Good look and feelOOOOOOOOOO

(6) Abschluss​​​​​​​​​​​​​​​​​​​​​

Hast Du weitere Fragen oder Anmerkungen?
Vielen Dank für Deine Teilnahme! Du hast uns sehr geholfen.


Consent Form

Einwilligungserklärung

Einwilligungserklärung gemäß DSGVO in die Verarbeitung von Daten durch die Entwickler*innen von GoWalkies! Für unsere Erhebung erfolgt die Verarbeitung folgender personenbezogener Daten: 

  • Pseudonymisierte Zuordnungen zwischen ID und Antwortbogen
  • Pseudonymisierte Antworten

Die oben genannten Daten werden zum Zweck einer Produktverbesserung erhoben und zudem auf den Servern von der TU Berlin gespeichert. Die Daten können nur von berechtigten Personen eingesehen und bearbeitet werden.
Sollten weitere Daten benötigt werden, braucht es dafür separat wieder die Zustimmung des Nutzers. Eine (automatische) Löschung der erhobenen Daten erfolgt nach 2 Monaten.

Widerrufsrecht

Der Unterzeichnende hat das Recht, diese Einwilligung jederzeit ohne Angabe einer Begründung mit Wirkung für die Zukunft zu widerrufen. Hierfür genügt eine E-Mail an max@maxmustermann.de. Die Rechtmäßigkeit der aufgrund der Einwilligung bis zum Widerruf erfolgten Verarbeitung wird durch den Widerruf nicht berührt.

Folgen des Nicht-Unterzeichnens

Der Unterzeichnende hat das Recht, dieser Einwilligungserklärung nicht zuzustimmen – da unsere Evaluation jedoch auf die Erhebung und Verarbeitung der zu Anfang genannten Daten angewiesen ist, würde eine Nichtunterzeichnung eine Inanspruchnahme des Dienstes ausschließen.

Zustimmung durch den Betroffenen

Hiermit versichert der Unterzeichnende, der Erhebung und der Verarbeitung seiner Daten zum Zweck einer Produktverbesserung freiwillig zuzustimmen und über die Datenverarbeitung und seine Rechte belehrt worden zu sein:

___________________________ Ort, Datum, Unterschrift