ga naar homepagina

3 Octoberstraat 11
2313 ZL Leiden
tel. 071 - 5131024

ga naar
Ben Vroom usability
home
Ben Vroom usability
usability
Ben Vroom usability
formulieren
Ben Vroom usability
verhalen
Ben Vroom usability
foto's
Ben Vroom usability
curriculum
Ben Vroom usability
email
Ben Vroom usability

USABILITY > artikel Vrije surfsessies in een gebruikstest

 

Vrije surfsessies in een gebruikstest

[uitgebreide versie van een artikel in Tekst[blad], juni 2003]

 

   

 

Trefwoorden:
gebruikstest
gebruikerstest
usability test

         
 

Problemen opsporen in een website is niet moeilijk. Neem drie proefgebruikers, laat ze hardopdenkend een aantal opdrachten uitvoeren en noteer wat er mis gaat. Jakob Nielsen gaf het jaren geleden al aan: succes gegarandeerd.

Ook nu zijn maar weinig websites tegen zo'n test bestand. Het is uitermate lastig om een website te maken waarbij gebruikers niet op fundamentele gebreken stuiten. Doel van een gebruikstest (ook wel 'usability test' genoemd) is wat mij betreft echter niet problemen opsporen, maar zoveel mogelijk problemen opsporen, vooral de belangrijkste. En dan kunnen vrije surfsessies belangrijke aanvullende resultaten opleveren.

 

De standaardmethode die in de literatuur over 'usability testing' veel beschreven en in de praktijk ook veel toegepast wordt, is als volgt: proefpersonen uit de doelgroep voeren ieder individueel hardopdenkend opdrachten uit en worden na afloop geïnterviewd over de problemen die ze zijn tegengekomen. Ze beantwoorden ook een aantal algemene vragen over de website. Al met al duurt een zo'n testsessie meestal ongeveer één à anderhalf uur.

Als ik websites test, laat ik de proefgebruikers eerst vrijelijk de website bekijken, hardopdenkend. Pas daarna geef ik hen opdrachten. Wat blijkt: juist die vrije surfsessies zijn uitermate informatief. Het is zeer leerzaam om te zien hoe gebruikers de website bezoeken en welke problemen ze daarbij tegenkomen. Het is vaak lastig om over te gaan op de opdrachten, omdat steeds nieuwe gebreken aan het licht komen. Ik zal hier de belangrijkste voordelen van vrije surfsessies bespreken.

Gericht en ongericht problemen opsporen

Voordat het internet opkwam, richtte de testpraktijk zich onder andere op het pretesten (testen bij gebruikers) van schriftelijk materiaal . Daarbij blijkt het effectief om niet alleen gericht te zoeken naar gebreken in een tekst, bijvoorbeeld met een vragenlijst, maar ook ongericht, bijvoorbeeld met de plus-en-minmethode. Hierbij wordt het meer aan de proefpersonen overgelaten welk commentaar ze geven.

De theorie erachter is: in een tekst kunnen zich op heel verschillende plaatsen en niveaus problemen bevinden. Door met een vragenlijst gericht naar problemen te zoeken, kan het zijn dat specifieke problemen niet naar voren komen waar de vragenlijst toevallig niet geschikt voor is. Het is als vissen in een vijver: je weet niet weet waar de vissen zich bevinden. Door een gerichte methode te combineren met een ongerichte methode, wordt het net fijnmaziger. De combinatie van plus-en-minmethode en vragenlijst wordt veelal gezien als een zeer effectieve pretestmethode.

Aangezien ook in een website de problemen zich op de meest uiteenlopende plaatsen kunnen bevinden, ligt ook hier een combinatie van een gerichte en ongerichte testmethode voor de hand.

Hoeveelheid opgespoorde problemen

Een artikel van Sienot biedt hiervoor ondersteuning . Hij heeft een onderzoek gedaan naar de effectiviteit van de hardopdenkmethode en de plus-en-minmethode voor websites . Per methode splitste hij de groepen. De ene groep bezocht de website vrijelijk, de andere groep voerde opdrachten uit.


hardopdenkmeth/
plus-en-minmeth

selectie begrip acceptatie relevantie +
volledigheid
waardering Totaal
totaal
met opdrachten
1.0 (17) 5.65 (51) 0.35 (5) 0.85 (19) 1.6 (30) 9.45 (122)
totaal zonder
opdrachten
0.8 (11) 3.05 (48) 0.55 (8) 2.65 (56) 2.25 (41) 9.30 (164)

Uit onderzoek Sienot (1997): Vergelijking resultaten met en zonder opdrachten; gemiddelden per proefpersoon en tussen haakjes het totaal te onderscheiden problemen (Bewerking Sienot (1997) tabel 2. Totalen laatste kolom berekend door Ben Vroom)

De tests waarbij de proefpersonen geen opdrachten uitvoerden, brachten de meeste individuele problemen aan het licht. Sienot wijst erop dat proefpersonen op veel meer plaatsen terecht komen als hun de vrije hand wordt gelaten. Daardoor kunnen op meer plaatsen problemen aan het licht komen.

Bij mijn eerste gebruikstest, van een prototype van www.wereldkinderen.nl, bleek al meteen hoe vruchtbaar de vrije surfsessies waren. We ontdekten daarin veel problemen die met de opdrachten onopgespoord zouden zijn gebleven. Een voorbeeld. Een nogal prominent geplaatste passage over een intakestop bleek mensen met interesse in adoptie tot een verkeerde conclusie te kunnen brengen, namelijk dat Wereldkinderen hen voorlopig niets te bieden zou hebben.

   

 

Sommigen hadden op dat moment de neiging de website meteen te verlaten en bij andere adoptieorganisaties poolshoogte te nemen. Maar bij doorklikken op 'intake-stop' bleek dat er weinig aan de hand was: meldde iemand zich aan, dan kon hij op de normale wijze aan de adoptieprocedure beginnen, alleen het intakegesprek zou wat later dan normaal plaatsvinden. Dat was voor de meesten geen probleem. Maar niet iedereen klikte op die link.

De gebruikstest leverde een schat aan informatie over de site op:

  • 17 zeer urgente problemen (belemmeren functioneren website ernstig)
  • 41 urgente problemen (belemmeren optimaal functioneren website)
  • 21 problemen (onhandig maar overkomelijk)
  • 7 punten van sterke algemene waardering

Naar schatting hebben de vrije surfsessies 70-80% van de problemen aan het licht gebracht en de opdrachten de rest .

Evidentie van geconstateerde problemen

Bij een gebruikstest geeft een reactie van één of twee proefgebruikers vaak voldoende duidelijkheid over een probleem. Als men door de ogen van gebruikers meekijkt, zijn de meeste problemen echte eye-openers. Daarom is ook een test bij een klein aantal proefgebruikers, bijvoorbeeld drie, al uitermate effectief. Zo is het bij het voorbeeld hierboven al snel duidelijk dat deze reactie gezien de stelligheid van de tekst niet onlogisch is, en dat andere gebruikers op dezelfde manier kunnen reageren. Een simpele aanpassing van de tekst is voldoende om dit te voorkomen.

Bij opdrachten geldt hetzelfde: als twee of drie proefgebruikers bij een opdracht tegen hetzelfde probleem aanlopen, zijn probleem en oplossing meestal evident. De opdracht hoeft niet opnieuw gegeven te worden. De test-tijd kan beter besteed worden aan het opsporen van andere problemen.

Zo bevond zich op de website een formulier waarmee gebruikers konden aangeven dat ze het werk van Wereldkinderen of specifieke projecten financieel wilden steunen. Dit was voor de organisatie natuurlijk een erg belangrijk onderdeel van de site. Echter, als proefgebruikers de opdracht kregen een project financieel te steunen, kon niemand het formulier vinden, terwijl de knop erheen op iedere pagina stond: het plaatje onder de knoppen in de linker navigatiebalk.

Dat plaatje bleek onduidelijk, het viel niemand op wat er stond. In plaats daarvan zochten velen de link in het inhoudsgedeelte van de pagina's, bijvoorbeeld bij de informatie over de specifieke projecten. Na dit twee of drie keer te hebben gezien, en na afloop van de opdracht te hebben gevraagd waarom ze niet op die knop klikten (met steeds als antwoord iets in de trant van 'ik dacht dat dat alleen maar plaatje was' of 'ik heb de tekst nooit bewust gezien'), waren probleem en oplossing evident: een duidelijker knop, geen plaatje, en ook hyperlinks naar het formulier in de tekstgedeelten van de pagina's, bijvoorbeeld bij de informatie over de projecten.

In deze eerste gebruikstest hebben we de opdracht vaker gegeven, met steeds hetzelfde resultaat. Dat bleek na verloop van tijd niet meer zo zinvol.

Conclusie: omdat problemen en oplossingen vaak heel snel duidelijk zijn, is het prettig als tijdens een gebruikstest zoveel mogelijk delen van de site bezocht worden. Dat geeft de grootste kans op het opsporen van zoveel mogelijk belangrijke problemen en detailproblemen.

Soort gebreken

Als factoren die het succes van een website, met name effectiviteit en gebruiksvriendelijkheid, bepalen, onderscheid ik in de Checklist voor goede websites :

  1. inhoud: goed op gebruikersbehoeften en doelstellingen afgestemd?

  2. ontsluiting: kunnen gebruikers de inhoudelijke onderdelen goed vinden?
    Denk aan: inzichtelijke structuur van de informatie, informatieve knoppen en hyperlinks (user interface), koppelingen door middel van interne hyperlinks, goede terugkoppeling, duidelijkheid van de homepage en de beginpagina's van rubrieken, de pagina-indeling (zijn belangrijke onderdelen goed in beeld), de zoekmachine en de mate waarin informatie in downloadbare bestanden wordt aangeboden

  3. teksten: duidelijk, bondig, scanbaar en belangrijkste voorop?

  4. verder gebruiksgemak, zoals snelle laadtijd, handelingen eenvoudig uitvoerbaar, duidelijke foutmeldingen, geen onnodige verplichting tot registratie, toegankelijkheid voor gehandicapten.

Opdrachten zijn vooral geschikt om gebreken op te sporen op het gebied van de ontsluiting, scanbaarheid van teksten en het gebruiksgemak. Maar allereerst gaat het erom of de website de goede inhoud bevat. Zonder goede inhoud kan een website nooit slagen. Om inhoudelijke problemen op te sporen, zoals ontbrekende informatie, zijn opdrachten niet of nauwelijks geschikt.

Sienots onderzoek wijst hierop: in de categorie 'relevantie en volledigheid' (helaas niet uitgesplitst) brengen de methoden zonder opdrachten veel meer problemen aan het licht dan de methoden met opdrachten (56 tegen 19). Ook hier is de reden simpel: meestal laat men proefgebruikers zoeken naar onderdelen die op de site staan. Dat levert niet of nauwelijks gegevens op over onderdelen die men mist. Bovendien ligt het initiatief bij de testleider, niet bij de proefpersoon. De proefgebruiker voert slechts opdrachten uit. Hij wordt niet of nauwlijks gestimuller zelf na te denken over wat hij op de site zou willen vinden.

Het is uitermate leerzaam om te zien hoe proefgebruikers uit eigen beweging naar informatie of mogelijkheden op zoek gaan, welke problemen ze daarbij tegenkomen en wat in hun ogen nog ontbreekt. Voorwaarde is wel dat de proefgebruikers echte vertegenwoordigers van de doelgroep zijn, en écht geïnteresseerd zijn in wat de site te bieden heeft. Daar kom ik later op terug. Eerst een paar voorbeelden van inhoudelijke gebreken die met opdrachten niet opgespoord zouden zijn.

Ontbrekende informatie

De website van Wereldkinderen miste een goed overzicht van de sterke punten van de organisatie op het gebied van adoptie en de begeleiding van adoptie-ouders. Her en der werd hier wel informatie over gegeven, maar proefgebruikers die een kind wilden adopteren en nog moesten kiezen voor een adoptie-organisatie, wilden toch graag een goed overzicht van de dienstverlening en de sterke punten van Wereldkinderen. Ook voor Wereldkinderen zelf zou zo'n overzicht nuttig zijn: het zou geïnteresseerden kunnen overhalen om voor deze organisatie te kiezen.

Andere inhoudelijke gebreken:

  • Doordat de site niets meldde over resultaten van projecten, stimuleerde hij weinig om projecten te gaan steunen, wat wel de bedoeling was.
  • Iemand van een bank die Wereldkinderen mogelijk zou willen sponsoren, zocht langdurig om duidelijk te krijgen wat voor soort hulp Wereldkinderen gaf. Hij kwam eerst tot een verkeerd beeld daarvan, en pas na een half uur tot een goed beeld.

De site van het Rijksmuseum werd onder andere getest bij een leraar met interesse in cultuur. Op de site stond informatie over de lesmaterialen die het museum uitgeeft. De leraar was hierin geïnteresseerd, maar er stond niet bij of het voor de lagere school of middelbare school was, en voor welke klas of groep. Ook de prijs ontbrak. Daar had de leraar niet zoveel aan. Een klein detail op een plek waar geen opdracht naartoe leidde. Nu is de informatie wel compleet.

Conceptuele problemen

Soms brengen de vrije surfsessies geïsoleerde ontbrekende informatie aan het licht, zoals bij het Rijksmuseum, soms ook blijken de problemen fundamenteler te zijn, meer op conceptniveau te liggen.

Zoals op de oude site van het Wereld Natuur Fonds . Het WNF wilde de 'nieuwe natuur' bij zijn webbezoekers onder de aandacht brengen en hen stimuleren die te gaan bezoeken. Dit is natuur die met bescheiden menselijke ingrepen is ontstaan in aangekochte gebieden. De site bood wel informatie over excursies en bustijden, maar niet over het bijzondere karakter van de natuur. Proefgebruikers die natuurliefhebbers waren maar niets wisten van nieuwe natuur, konden zich geen beeld vormen van hoe mooi het er zou zijn. Daardoor raakten zij niet geïnteresseerd in het gebied en zeker niet in de excursies en bustijden.

De website benjijsterkerdandrank.nl hoorde bij een campagne waarmee jongeren worden gestimuleerd niet overmatig te drinken. Voor de campagne waren drankgebruik-zelftests gemaakt die nogal prominent op de site stonden. Deze tests gaven weinig informatie over de gevolgen van overmatig drankgebruik. Ook uitspraken van beroemde Nederlanders waren gemakkelijk te vinden. Veel moeilijker was het om informatie over de gevolgen van stevig drankgebruik te vinden, zoals een verminderde potentie en latere hersenschade. Deze informatie stond onder een onduidelijke knop. De proefgebruikers, allen jongeren, deden de spelletjes en bekeken uitspraken van bekende Nederlanders en zo nog het een en ander, maar dat zei hun allemaal weinig. De informatie over de gevolgen van drankgebruik zagen ze over het hoofd. Als we hen vroegen dat te bekijken, vonden ze dat wél interessant. Ze lazen over voor hun tamelijk schokkende effecten die ze nog niet kenden.
Conclusie was dat jongeren wel degelijk in de informatie geïnteresseerd kunnen zijn, en dat die dus prominent op de website aangeboden moest worden. Dat is een ander concept dan waarmee de website gemaakt was. Tegenwoordig wordt die informatie veel prominenter aangeboden.

Presentatie van de inhoud

De Consumentenbond wilde via haar oude site onder andere leden werven. De site bevatte voor leden honderden tests van producten. Een paar tests waren ook voor niet-leden toegankelijk. Deze vielen echter niet op, noch op de homepage (onopvallende link onder de scrollbalk), noch in overzichten van tests. Proefgebruikers zagen ze niet en stuitten steeds als ze testresultaten wilden bekijken op een inlogscherm waar ze een lidnummer moesten invullen. Dat werkte behoorlijk frustrerend en demotiveerde juist om lid te worden.
Een opvallender presentatie van de tests was hier op zijn plaats geweest. Bezoekers konden dan direct zien dat de website niet uitsluitend tests voor leden bevatte. Inzage in de gratis tests had niet-leden kunnen motiveren lid te worden.

Case: www.vernieuwingsimpuls.nl

Tot slot een wat uitgebreider voorbeeld dat illustreert hoezeer hoe zinvol het is om te zien hoe geïnteresseerde proefgebruikers naar informatie op zoek gaan en hoe keuzes bij de bouw van de site kunnen uitpakken.

In maart 2002 trad de Wet Dualisering Gemeentebestuur in werking. Deze wet moet in gemeenten meer afstand scheppen tussen de gemeenteraad en het college van Burgemeester en Wethouders, zodat het College zich meer op het bestuur gaat richten en de Raad meer op de beleidskaders en controle van het College (vergelijk regering en parlement). Dit had tal van praktische consequenties, zoals

  • wethouders maken geen deel meer uit van de gemeenteraad;
  • wethouders zijn geen voorzitters (en lid) meer van de commissievergaderingen (waardoor ze veel naar hun hand konden zetten);
  • de gemeenteraad krijgt een griffier (soms met personele ondersteuning, afhankelijk van de grootte van de gemeente).

Een paar jaar voor de invoering van de wet werd een project gestart om met name raadsleden en gemeente-ambtenaren hierover te informeren en het denken over dualisme in de politiek te stimuleren. De projectgroep ondersteunde ook gemeenten die al eerder begonnen met het invoeren van dualistische maatregelen. Zij gaf 'handreikingen' uit met informatie over de gewenste (en later verplichte) veranderingen. En er kwam een website met als primair doel het bevorderen van een cultuuromslag: het meer duaal willen inrichten van het gemeentebestel en het hiernaar handelen in de gemeente.

Deze website bevatte onder andere:

  • globale informatie over de veranderingen
  • informatie over de stand van zaken in de politieke besluitvorming, onder andere wetsontwerpen en relevante documenten
  • de reeds uitgegeven handreikingen in html
  • overige relevante publicaties (vaak) in word-versie of pdf-vorm
  • informatie van gemeenten over hun plannen en activiteiten op dualistisch gebied

De website voorzag duidelijk in een behoefte. Hij werd veel gebruikt, met name door ambtenaren die anderen binnen de gemeente moesten informeren. Hij oogstte veel waardering. Zo behoorde hij tot de tien genomineerde sites voor de Webwijzer Award 2002, een prijs voor de beste overheidssite, met als motivatie: 'een informatieve, goed toegankelijke site voor professionals'.

De gebruikstest is uitgevoerd in maart 2002 (1), kort nadat de wet van kracht was geworden. Hij is getest bij twee raadsleden van twee verschillende gemeentes en bij twee ambtenaren uit twee andere gemeentes die beiden een ondersteunende functie hadden bij de invoering van het dualisme.
Daarnaast zijn ook twee groepsgesprekken gehouden, één met raadsleden en één met gemeente-ambtenaren.

Het was tijdens de gebruikstest heel interessant om te zien hoe de proefgebruikers zochten naar informatie. De aanwezigheid van officiële documentatie werd erg op prijs gesteld. Daarnaast waren ze zeer geïnteresseerd in hoe zij specifieke veranderingen moesten doorvoeren, bijvoorbeeld aan welke eisen een raadsgriffier moet voldoen en hoeveel personele ondersteuning hij moet krijgen. Echter, op dit concrete niveau bood de site weinig gemakkelijk vindbare informatie. Soms bevatten documenten in pdf-formaat zulke informatie, maar daarin was het lastig zoeken. De website voorzag niet in de behoefte om snel hele concrete informatie en aanwijzingen over allerlei veranderingen te vinden. Dit wreekte zich vooral bij de raadsleden. Zij zijn minder dan beleidsambtenaren geneigd om uitvoerig op een website te gaan zoeken. Ambtenaren die anderen moeten informeren, hebben meer zitvlees.

Ook waren beide groepen zeer geïnteresseerd in de activiteiten en ervaringen van andere gemeenten. De informatie hierover op de website was echter vaak verouderd en algemeen. Veel plannen, weinig informatie over concrete activiteiten en praktisch geen ervaringen. Nadat gemeenten 2 jaren eerder hun informatie over plannen en activiteiten hadden aangeleverd, was er nauwelijks nieuwe informatie bijgekomen.

Het was duidelijk dat de website gedeeltelijk reeds goed in een behoefte voorzag, maar nog veel beter zou kunnen functioneren door concrete informatie op een toegankelijke manier aan te bieden, liefst geordend op onderwerp (bijvoorbeeld beknopte informatie over de griffier met links naar wetgeving, handreikingen en ervaringen van andere gemeenten op dit specifieke gebied).
Interessant was dat dit beeld sterk bevestigd werd in de groepsgesprekken. Het beeld van de discrepantie tussen website en gebruikersbehoeften kwam globaal overeen, alleen ontstond in de groepsgesprekken een completer beeld van de informatiebehoeften.

Daarnaast leverden de vrije surfsessies ook een aantal detailproblemen op die met opdrachten waarschijnlijk niet aan het licht waren gekomen:

  • er ontbrak achtergrondinformatie over het wat en hoe van het dualisme
  • sommige informatie was niet actueel - een proefgebruiker wist dat er al een nieuwe versie van een document bestond
  • vaak ontbrak de datum van een document, was onduidelijk of het beschrevene facultatief of bindend was en of het de laatste versie betrof

Naar aanleiding van de test is de site eind 2002 ingrijpend herzien.

Consequenties voor de testopzet

De combinatie van vrije surfsessies en opdrachten heeft een aantal consequenties voor de testopzet.

Langere testsessies

De testsessies duren langer, anderhalf à twee uur. Er kunnen dus minder testsessies per dag worden gehouden. Naar mijn ervaring hebben proefgebruikers hier zelden problemen mee.

Selectie proefgebruikers

Het is van het grootste belang dat de proefgebruikers geïnteresseerde leden van de verschillende doelgroepen zijn. Zo niet, dan hebben vrije surfsessies weinig zin. Meestal laat ik de organisatie waarvan ik de website test, proefgebruikers werven. Zij beschikken vaak over een bruikbaar netwerk. Twee voorbeelden.

De website van Wereldkinderen is getest bij:

  • algemene belangstellenden (4)
  • mensen met interesse in adoptie (2)
  • iemand die bezig was met adoptie en wachtte op een adoptiekind (1)
  • mensen met een adoptiekind (3)
  • vrijwilligers die in verschillende regio's actief zijn (2)
  • vertegenwoordigers van bedrijven die mogelijk bereid zijn Wereldkinderen financieel te steunen (3)

In totaal vijftien proefpersonen. Achteraf vonden we dat te veel. Twee uit elke groep leek ons voldoende, met een maximum van 8-10. Zij namen allen vrijwillig, zonder noemenswaardige betaling deel aan de test.

De website van het College voor Zorgverzekeringen (CVZ) bevatte informatie voor zorgverzekeraars, patiëntenbelangenverenigingen, zorgaanbieders, het ministerie VWS en de pers. De site is getest bij zes proefgebruikers: twee medewerkers van verzekeringsmaatschappijen, een medewerker van een patiëntenbelangenvereniging, een medewerker van de Landelijke Huisartsenvereniging (zorgaanbieders), een hoge beleidsadviseur van VWS en een journalist van een landelijk dagblad. Zij namen allen vrijwillig, zonder noemenswaardige betaling deel aan de test.

Tot slot

Ik heb hierboven niet geprobeerd om een uitputtend overzicht te geven van soorten gebreken die vrije surfsessies aan het licht kunnen brengen. Dat zou een veel verdergaande analyse vergen van testresultaten.

Interessant is natuurlijk de vraag of de extra informatie die met vrije surfsessies verkregen wordt, opweegt tegen de tijd die het vergt. Ik ben ervan overtuigd dat vrije surfsessies nodig zijn om een zo compleet mogelijk beeld te krijgen van de werking van de site en de voornaamste problemen. Het lijkt mij heel zinvol om te onderzoeken of dit door onderzoek al dan niet ondersteund kan worden.

Noot

1) De test is uitgevoerd door Anna Ietswaart, onder begeleiding van Ben Vroom.

Literatuur

Dumas, J. S. and J. C. Redish (1999): A Practical Guide to Usability Testing. Intellect, England/USA.

Lentz, L. (2002): Hoe evealueer je een website. Tekst[blad] 2002/1.

Nielsen, J. - www.useit.com.

Rubin, J. (1994): Handbook of Usability Testing. How to plan, design and conduct effective tests. John Wiley and Sons, New York

Sienot, M. (1997) - 'Pretesting Web Sites: A Comparison between the Plus-Minus Method and the Think-Aloud Method for the World Wide Web'. Journal of Business and Technical Communication, 11/4. p. 469-482.

Spool, M. et al (1999): Web Site Usability. A Designers guide. San Francisco, Morgan Kaufmann Publishers.

Vroom, B. (1994): De tekst getest. Handleiding voor het pretesten van schriftelijk materiaal. Van Gorkum, Assen.

Vroom, B. (1999): Het testen van websites. Tekst[blad] 1999/1.

Vroom, B. en E. Hartman (1999): Testverslag pretest www.wereldkinderen.nl. Eigen uitgave Ben Vroom tekst en verhalen, Leiden en Hartman Communicatie, Zaltbommel.

Vroom, B. en E. Hartman (1999): Testontwerpkeuzes bij een probleemopsporende pretest van een website. Lezing op het VIOT congres 1999 te Delft. Zie www.benvroom.nl/artikelviot.htm.

Vroom, B. (2002): Checklist voor goede websites. Kluwer, Alpen aan den Rijn

Vroom, B. (2003): Top 10 Ontoegankelijke webteksten. Tekst[blad] 2003/2.

© Ben Vroom, juni 2003