Het tweede Canvas avontuur: een eerste reflectie

Ook mijn tweede Canvas avontuur zit erop. Ik had het voorrecht om deel te mogen nemen aan de pilots, zo voelde dat ook. Ik was al enthousiast over Canvas, maar ben steeds enthousiaster aan het worden. Maar… uiteraard met een aantal kritische kanttekeningen. In een van mijn vorige blogs gaf ik al aan dat de Fontys Hogeschool ICT een zogenaamde MinMax en MoreMax cursus Canvas geeft bij de introductie van het systeem. In feite heb ik dit zelf ook toegepast. Tijd voor een eerste reflectie.

De MinMax: Voortgezet Programmeren
Bij mijn eerdere (deel)vak ‘Voorgezet Programmeren’ zette ik eigenlijk maar een klein deel van de Canvas functionaliteit in. Ik maakte pagina’s met teksten, kennisclips, formatieve toetsen (quizzen), voerde cijfers in via het Gradebook (en liet het cijfer daarmee automatisch berekenen) en deed de communicatie via aankondigingen, mails op maat (via het Gradebook) en het forum. Daarmee kon ik grotendeels alles van het vak optimaal ondersteunen.

De MoreMax: Artifiële Intelligentie
Nu ik wat meer ervaring had, zat het basisdeel van het vak Artificiële Intelligentie, de teksten, de kennisclips, de quizzen, snel in Canvas. Dat maakte dat ik de uitdaging aanging om mijn eigen MoreMax cursus als het ware te doen. Bij dit vak maakte ik bijvoorbeeld gebruik van het kunnen inleveren en beoordelen van opdrachten via Canvas (de SpeedGrader), van peer feedback rondes op het ingeleverde werk en van rubrics.

Loftrompet?
De basisfunctionaliteit van Canvas blijf ik fantastisch intuïtief vinden. Bij het geavanceerdere gebruik liep ik tegen wat dingen aan, die handiger kunnen. Het inleveren van deelopdrachten was even uitzoeken, omdat je niet aan 1 grote opdracht meerdere deadlines mee kon geven en meerdere toegestane bestandtypen die studenten kunnen uploaden. De verdeling van stukken voor de peer feedback ging zeer soepel, maar je kan geen deadline instellen voor die feedback. Ik heb behoorlijk geworsteld met de rubrics: studenten konden eventueel foutief ingevoerde scores niet meer aanpassen. Ik merk dat ik sommige irritaties kan voorkomen door een goede (lees: betere) instructie mee te geven. In de Instructure Canvas wensenlijst zie ik gelukkig dat er gestemd kan worden op een aantal wensen die een deel van de ervaren kleine onhebbelijkheden kunnen wegnemen.

Een voorlopig einde
Maar ook aan dit tweede Canvas avontuur komt een einde. Het vak zit er alweer op. Ga ik de Canvas luwte in? Nee, zeker niet. Vanaf het facultaire team hoop ik bij te dragen aan de implementatie van Canvas en ondertussen ga ik zelf uiteraard verder met het verkennen hoe ik met behulp van Canvas mijn onderwijs nog verder kan verbeteren. Voorlopig nog genoeg uitdagingen!

 

Canvas: katalysator voor onderwijsinnovatie?

Instructure, het bedrijf achter Canvas, heeft een goede PR- en marketingafdeling. Ze zijn heel erg actief op social media en zetten Canvas veelal neer als de katalysator voor onderwijsinnovatie. Toegegeven, ze weten ook mij te prikkelen. Met name met de meer onderwijskundige tips ’n tricks die ze vaak geven. Na het geven van twee blended modules in Canvas is het tijd voor een kritische zelfreflectie. Hebben mijn studenten meer geleerd?

Vorig jaar wilde ik het onderwijs van mijn module ‘Voorgezet programmeren’ een andere vorm geven. Waarom eigenlijk? Ik merkte dat de oude opzet van mijn module vooral gericht was op het studenten laten onthouden en begrijpen van de stof ofwel op het zogenaamde ‘lagere orde denken’ volgens de taxonomie van Bloom . En ik zag dat het echte begrip van de stof bij studenten vaak pas (te) laat kwam. Van ‘hogere orde’- denken en -leeractiviteiten, zoals Bloom dat noemt, als toepassen, analyseren of creëren was amper (of zeg maar gerust geen) sprake bij de oude opzet van mijn module.

Opdrachten voor lagere én hogere denken nodig
Volgens Bloom zijn voor het ontwikkelen van rijke leeractiviteiten vragen en opdrachten nodig die zowel een beroep doen op het ‘hogere orde’- als op het ‘lagere orde’-denken. Daarom besloot ik voor mijn module Voorgezet programmeren een nieuwe ‘blended’ opzet te maken en wel volgens het principe van ‘flipping the classroom’. Ook voor de onderdelen die ik geef voor de module Artificiële intelligentie paste ik deze aanpak recent toe.

Het streven van mijn blended/flipped aanpak was om de studenten van oppervlakkig leren meer naar diepteleren te laten gaan. En zo van begrijpen naar analyseren te komen – in termen van Bloom. Daarvoor heb ik vooral formatieve toetsen aangeboden ofwel meer online oefenmateriaal. Ik wilde, door mijn studenten al online veel te laten toepassen, komen tot analyseren/ diepteleren. Is dat ook gelukt?

Significant betere tentamenscore
In allebei mijn blended modules zag ik dat studenten de stof eerder begrepen en konden we veel dieper op de stof in gaan tijdens de face to face momenten. Zelf vond ik het contactonderwijs, waarin we vragen van studenten bespraken en onderwerpen waarvan studenten hadden aangegeven dat ze er meer over wilde horen, veel prettiger dan het klassieke hoorcollege geven. Ook in termen van eindcijfers was de vernieuwde opzet van de module Voortgezet programmeren zeer succesvol. De tentamenuitslag was significant beter dan het jaar ervoor (zelfs wanneer ik corrigeer voor het verschil tussen de cohorten). Voor Artificiële intelligentie zijn nog geen eindcijfers bekend.

Reden om te juichen?
Zijn significant betere tentamencijfers voldoende reden om te juichen? Ja, als eerste graadmeter. Ik was tevreden, meer dan, zelfs. Maar laten we wel zijn, heb ik niet stiekem een hele goede vorm van examentraining (teaching to the test) gegeven? Ja, de studenten waren actiever aan de slag, meer ‘involved’ zoals dat dat zo mooi genoemd wordt, met ‘just in time feedback’ en activerende onderwijsvormen. Prachtig. De leerdoelen van het vak zijn gehaald.

Kunnen toepassen en creëren
Maar hebben de studenten ook echt meer geleerd dan eerdere jaren? Is dat behalen van de toets nu echt wat wij voor ogen hebben? Wil ik ze als docent niet juist meegeven dat een tentamen ook maar een momentopname is? Dat het gaat om het laten beklijven van de stof (en dan langer dan de drie uur die het tentamen duurt), om het geleerde kunnen toepassen, om er nieuwe zaken mee te kunnen creëren? – om Bloom maar weer even aan te halen.

Anders denken over toetsvormen
Nu duidelijk is dat we studenten met behulp van Canvas (aantoonbaar) kunnen activeren en we ze zelf hun kennis kunnen laten toetsen met de formatieve toetsen, lijkt het me tijd voor de volgende stap in de onderwijsinnovatie. Tijd om anders te gaan denken over toetsvormen. Laten we eens kijken of die tentamens echt wel nodig zijn. Kunnen we het begrip van de stof niet veel beter toetsen aan de hand van opdrachten? Door studenten zelf aan de slag te laten gaan met onderzoek, ze kritisch te laten analyseren en creëren? Nieuwe toetsvormen – met Canvas als katalysator? Ik zie kansen.

Tien tips voor het succesvol implementeren van Canvas

Afgelopen week bezocht ik een symposium van de SURF-special interest group Blended learning. Het onderwerp was ‘Faciliteren van docenten(teams) bij blended learning’.Tijdens een van de workshops sprak Fleur Deenen over de implementatie van Canvas bij de Fontys Hogeschool ICT. Uiteraard schoof ik aan. Tien tips voor het succesvol implementeren van Canvas. Kom maar door!

Deenen vertelde dat ze bij Fontys Hogeschool ICT de acht stappen van verandermanagement van Kotter gevolgd hadden voor de implementatie van Canvas. Het voert te ver die hier allemaal  toe te lichten, dus focus ik me op de stap ’Zorg dat het gebeurt’. Er wordt een aantal deelstappen genoemd. De eerste: ‘Visie communiceren en mensen enthousiasmeren’. Ik geloof dat het Canvas-UvA-team dat al doet. De Canvas-nieuwsbrieven staan vol enthousiaste verhalen. Blended learning komt ook duidelijk naar voren. Aan ambitie geen gebrek bij de UvA, zo lijkt het wel.

Medewerkers in staat stellen te veranderen
De volgende stap is ‘Medewerkers in staat stellen te veranderen’. Een cruciale stap. Deenen legt uit dat Fontys Hogeschool ICT de medewerkers in eerste instantie twee (online) cursussen aanbood: de MinMax- en de MoreMax-cursus. Fascinerend. In de eerste cursus is de ambitie om te leren hoe je met zo min mogelijk functies in Canvas al zoveel mogelijk resultaat kunt bereiken. Toch een beetje een aanpak waar ik, als docent, steeds voor waarschuw. Maak nou van Canvas geen verzameling van slides en pdf’s. Het kan zoveel meer. Deenen licht toe dat in de MoreMax cursus juist ingegaan wordt op de nieuwe functionaliteiten die Canvas biedt. Denk aan formatieve quizzes, rubrics, peer feedback, mastery paths etc etc.

Gaan docenten dan nog wel de MoreMax-uitdaging aan?
Kritisch bevraag ik Deenen. Gaan docenten, als alles eenmaal in Canvas staat conform de MinMax-definitie, dan nog wel de MoreMax-uitdaging aan? Stellig zegt ze ja! Ja, natuurlijk, docenten willen goed onderwijs verzorgen. Het beste uit hun studenten halen.

Maar dan komen we weer bij dat belangrijke punt: docenten in staat stellen te veranderen (naar en in Canvas). We weten allemaal dat de nadruk bij wetenschappelijke instellingen met name op onderzoek ligt. Daar word je immers op afgerekend als docent/onderzoeker. Onderwijs hangt er soms wat bij.

Laten we de overgang naar Canvas maximaal benutten
De UvA schrijft in haar onderwijsvisie dat ze onderwijs wel degelijk meer en beter wil waarderen. Ik hoop het! Ik hoop oprecht dat docenten goed gefaciliteerd worden bij de overgang naar Canvas en dat we daarbij niet eerst voor de MinMax maar meteen voor de MoreMax in Canvas gaan. Laten we de overgang naar Canvas maximaal benutten om ons onderwijs te vernieuwen en verbeteren  en laten we daarmee onderwijskundig ook echt de koploperpositie pakken. We hebben de kennis en kunde in huis. Dat gecombineerd met een goede dosis enthousiasme en gedrevenheid, maakt dat we echt iets goeds en duurzaams neer kunnen zetten.

Kortetermijnsuccessen vieren
De volgende stap die Deenen noemt is dat je kortetermijnsuccessen moet creëren en vieren. Dat is een stap die ik direct omarm. Ik prijs mezelf gelukkig dat ik de kans kreeg om in het blended learning project van de faculteit der Geneeskunde de open versie van Canvas uit te proberen, waardoor ik de Canvas-functionaliteiten vanuit de onderwijspraktijk breed kon onderzoeken. Zo kon ik direct de MoreMax-uitdaging aan gaan! En ik vier dat ik nu met mijn vak Artificiële intelligentie mag deelnemen aan de Canvas-pilots in het onderwijs om nog weer meer nieuwe Canvas-functionaliteiten (verder) uit te proberen. Op naar de volgende stap, zoals Deenen die benoemt: niet verslappen, nu doorzetten!

Online samenwerking: mag de docent meekijken?

Als ervaren Canvas-gebruiker kon ik onlangs een vliegende start maken met het inrichten van de module Artificiële intelligentie in Canvas. Binnen amper een week stonden de thema/module-indeling, de teksten, filmpjes en meerdere formatieve quizzen (plus feedback) klaar. In deze Canvas-pilot laten we studenten ook online samenwerken in practicumgroepen en elkaars opdrachten beoordelen via peer feedback. Dit roept nieuwe vragen op …

Canvas biedt de functionaliteit  dat studenten online kunnen samenwerken – zoals nu vaak via Google Docs gebeurt. Elke practicumgroep krijgt een eigen subomgeving. Daarin kunnen de leden van de groep aankondigingen/mededelingen voor elkaar plaatsen, pagina’s aanmaken, discussiëren op een forum, bestanden delen, online vergaderen via de webconferencing tool BigBlueButton  (die standaard in Canvas zit) vergaderen, et cetera. Prachtige functionaliteiten.

Groepen indelen
Voor het online samenwerken binnen de module Artificiële Intelligentie in Canvas vroeg ik de studenten zichzelf in groepen in te delen. Je kunt er ook voor kiezen om Canvas automatisch een indeling te laten maken of om dit zelf handmatig te doen. Als docent kun je vervolgens opdrachten toewijzen aan individuen of aan groepen.

Verbazing
In mijn mailbox zie ik, tot mijn verbazing, een aankondiging van een van de groepen binnenkomen. Ik heb voor nu namelijk in Canvas ingesteld dat ik alle Canvas-notificaties ook in mijn e-mailbox wil ontvangen. Ik open het bericht en volg de link. Ik kom uit bij de groepsomgeving van een van de practicumgroepen. Hè? Dat is raar. Ik kan als docent alles van de groep zien! Gelukkig staan er geen gekke dingen en ben ik even snel weer weg als ik er kwam.

Rollen en rechten in Canvas
Het stelt me wel voor de vraag: moeten we wel willen dat docenten toegang hebben tot groepen? Ik doe navraag bij het team dat Canvas-UvA inricht. Het blijkt dat je wel kunt instellen dat docenten niet bij groepsomgevingen kunnen komen. Althans, ergens. Het team gaat ernaar kijken in het kader van rollen en rechten in Canvas.

Stemmen in de Canvas-community
De vraag is: wil je toegang tot groepen voor docenten altijd, standaard uitsluiten of wil je dat per vak kunnen instellen? Ik zou liefst willen dat studenten dit zelf kunnen instellen.  Maar zoals bij alle applicaties geldt: niet altijd kan wat wij het liefst zouden zien. Het mooie aan Canvas vind ik wel dat je je wensen goed kenbaar kan maken in de Canvas-community  (van leverancier Instructure) en dat de Canvas-gebruikers via stemming mogen bepalen welke wensen opgepakt worden. Zo zie ik dat alleen al tussen mijn vorige (voorjaar 2017) en mijn huidige vak in Canvas alweer enorm veel wensen van gebruikers zijn opgepakt.

Stof tot nadenken
Ik ben blij dat ik meedoe met de Canvas-pilots die nu bij enkele vakken aan de UvA plaatsvinden, want het mes snijdt echt aan twee kanten. Ik kan de didactische mogelijkheden van Canvas verder uitproberen en het Canvas-team krijgt input en stof tot nadenken. Het blijft leuk om de functionaliteiten van Canvas die het onderwijs verder kunnen innoveren en verbeteren uit te proberen. We gaan vrolijk verder met de pilot.

Een nieuw Canvas-avontuur: flipping Artificiële intelligentie

Mijn persoonlijke proef met blended onderwijs in een open versie van Canvas vorig studiejaar was een succes. Canvas werkt prettig en biedt veel functionaliteit, ervoer ik. Ook sloten de studenten de blended module af met significant betere cijfers. Het duurt nog even (september 2018) totdat de UvA overgaat van Blackboard op Canvas-UvA dat nu bij alle faculteiten ingericht wordt. Dus kwam ik voor de keuze: terug naar Blackboard of toestemming vragen om ook in het collegejaar 2017/18 de open versie van Canvas te gebruiken ….

Eerlijk is eerlijk, ik voelde meer voor de laatste optie: verder met Canvas. Voor mijn module Voortgezet Programmeren en Wiskunde die ik eerder al in Canvas draaide zou ik later dit collegejaar kijken hoe en wat. Voor de module Artificiële intelligentie die in september zou starten zou ik gebruik maken van Blackboard.

Zonder geluk vaart niemand wel
Maar zonder geluk vaart niemand wel. In de zomer kwam vanuit het facultaire project implementatie Canvas de vraag of docenten wilden deelnemen aan een pilot met een module in Canvas. Voorwaarden waren onder andere dat het vak in de periode september-december 2017 zou zijn en dat er geen schil-tools nodig waren. Het zal niemand verbazen dat ik me aangemeld heb. Ik heb nog lang niet alle functionaliteit van Canvas uitgeprobeerd en ben bovendien enorm benieuwd in hoeverre de open versie van Canvas nou echt anders is dan Canvas zoals dat nu wordt ingericht bij de UvA.

Artificiële intelligentie
En ook dan geldt weer dat zonder geluk niemand wel vaart. Per faculteit kunnen drie docenten meedoen aan de pilot en bij Geneeskunde was nog plaats voor mijn vak: Artificiële intelligentie. Kortom: deze week start ik met een nieuw Canvas- avontuur! En dit keer niet alleen maar samen met mijn collegadocenten die bij dit derdejaars bachelorvak van de opleiding medische informatiekunde betrokken zijn.

Canvas wijst zichzelf
Ik heb plechtig beloofd dat ik hen zal helpen waar mogelijk, maar eigenlijk ben ik er nog steeds van overtuigd dat Canvas zichzelf wel wijst. Ik hoop dat mijn collega’s ook zullen kijken naar de didactische mogelijkheden die Canvas biedt. Mogelijkheden die in Blackboard ook kunnen, laat ik dat nogmaals benadrukken, maar soms (helaas) ‘uit’ stonden bij de UvA of naar mijn smaak weinig intuïtief waren.

Flipped classroom
Ik zelf zal Canvas met name inzetten, net als bij het vorige experiment, om het concept flipping the classroom te implementeren. Dus om teksten, kennisclips en formatieve toetsen aan te bieden via Canvas. Daarnaast wil ik gaan kijken hoe het inleveren van opdrachten via Canvas vorm gegeven kan worden. Ik wil kijken naar de mogelijkheden voor peer review (door medestudenten) en hoe je gebruik kan maken van rubrics.

Zojuist ontving ik mijn inlogcodes voor Canvas-UvA. De eerste keer inloggen stemt me voorzichtig positief: mooi, dit oogt net als de open versie. Morgen de rest maar eens verkennen. Via dit blog zal ik ook tijdens deze module verslag uitbrengen van mijn bevindingen.

Hernieuwde Canvas-energie. Ik heb er zin in!

Mijn ultieme droom: ieder z’n eigen leerpad

Het collegejaar zit erop. Een extra druk jaar door het herontwerpen van mijn onderwijs voor blended learning. Even dreigde een ‘after-onderwijs-dip’. De vraag drong zich op: what’s next? Voor mij is de kwaliteit van mijn onderwijs nooit goed genoeg. Dus was een nieuwe uitdaging snel gevonden: gepersonaliseerd leren!

Ik heb, denk ik, al een behoorlijk aantal van de functionaliteiten van Canvas bekeken én vele ook al gebruikt. Maar Canvas kan nog zoveel meer – lees ik. Ik wil er uithalen wat erin zit. Het zou een gemiste kans zijn als we niet alle functionaliteiten die mogelijk tot verbetering van de kwaliteit van het onderwijs kunnen leiden uitproberen en deze wanneer succesvol ook verder inzetten. Ik ben aan de slag gegaan met het uitproberen van de Canvas-functionaliteit MasteryPaths.

Extra oefenopdrachten of verdiepende opdrachten
Met MasteryPaths kun je studenten een leerervaring bieden, afgestemd op het niveau van hun individuele leerprestaties – op maat dus. Een student die de stof nog niet zo goed beheerst, kun je extra oefenopdrachten geven; en een student voor wie het al gesneden koek is kun je verdiepende opdrachten bieden.

Scenario based learning
MasteryPaths biedt de mogelijkheid om aan onderdelen van je onderwijs(materiaal) ingangseisen te koppelen. Dit wordt wel scenario based learning genoemd. De docent bepaalt welke leerpaden er mogelijk zijn en welke ingangseisen gelden per pad. Je bepaalt dus vooraf wie, welk onderwijsmateriaal, wanneer, mag zien. Het instellen gaat, merk ik, net als eigenlijk alles in Canvas redelijk intuïtief. Misschien zijn er ook leertools voor gepersonaliseerd en adaptief leren buiten Canvas die een waardevolle aanvulling zijn op de Canvas-MasteryPaths. Ik hoop daar na de zomer naar te kunnen kijken.

Niveaudifferentiatie
Mijn ultieme droom is een curriculum met vakken op verschillende niveaus. Enkele meer specialistische vakken zouden dan op een aantal verschillende niveaus gegeven kunnen worden. Als een student het onderwerp goed beheerst, er extra interesse in heeft en er misschien wel op wil afstuderen of een master in wil doen, dan kan die student het vak op het hoogste niveau doen. Doordat die student sneller door de stof heen kan gaan, ontstaat er ruimte voor een extra opdracht, zoals bijvoorbeeld een stukje onderzoek of  een groter practicum.

Toekomstmuziek?
Met zo’n opzet zou een student zelf kunnen kiezen in welk onderwerp hij of zij zich extra wil verdiepen. Zo zou ook een relatief kleine opleiding als de onze via verdiepende leerpaden binnen vakken, een stukje specialisatie aan kunnen bieden aan kleine groepjes studenten – iets wat met enkel contactonderwijs (financieel) mogelijk minder haalbaar is. Dat is natuurlijk niet 1-2-3 gerealiseerd en klinkt voor menigeen wellicht als toekomstmuziek. Zelf zou ik dit in eider geval graag op vakniveau eens verder willen uitdiepen.

Let’s do it!
Ik heb al heel veel materiaal in Canvas staan, dus het zou mogelijk een beperkte investering vragen om een eerste stap richting gepersonaliseerd en adaptief leren te zetten. Het idee alleen al geeft weer energie. Let’s do it!

Mijn juichmoment: significant betere tentamencijfers

Het zit erop. Mijn module met een blended learning opzet in Canvas werd vorige week afgesloten met het tentamen. De resultaten mogen er zijn! Iedereen, ja iedereen, heeft het eerste deel van de module gehaald. Chapeau!

Spannend
Toegegeven, ik vond het een spannend avontuur. Ik ben gestart vanuit mijn intrinsieke motivatie om de module Voortgezet Programmeren en Wiskunde verder te verbeteren. Ik wilde graag kijken of blended learning daaraan kan bijdragen. Canvas ondersteunde me daarbij. Al voor aanvang van de module zaten er meer dan 200 uur voor mij in het ontwikkelen van de blended opzet en het inrichten van Canvas. En inderdaad, ik heb me meer dan eens afgevraagd of het dat nou allemaal waard was. Gelukkig wel, zo blijkt nu.

Cohortvergelijking
Wekelijks was er een responsiecollege met direct aansluitend een werkgroep en een summatieve tussentoets. Week na week volgde ik de cijfers. De opzet van de tussentoetsen was 100% gelijk aan voorgaande jaren en daarmee waren de cijfers dus vergelijkbaar. Om te kijken of het huidige cohort studenten wellicht überhaupt beter of slechter presteert (tot nu toe) dan het cohort van vorig jaar vergeleek ik de cijfers voor twee eerdere modules van dit jaar en vorig jaar. Ik vond geen significant verschil in de studieprestaties van het vorige en het huidige cohort.

5 van de 8 summatieve tussentoetsen significant beter gemaakt
In voorgaande jaren werd bij mijn module Voortgezet Programmeren de toets van de eerste week altijd slecht gemaakt. Studenten hadden zich niet voorbereid en wisten ook niet wat ze moesten verwachten van zo’n summatieve toets. Door de verplichte formatieve toets (je moest deze doen om je summatieve toets te kunnen laten meetellen voor je eindcijfer)  waren ze dit jaar wel voorbereid. Het resultaat daarvan was al in week 1 zichtbaar: de eerste tussentoets was significant beter gemaakt. Dit succes hield aan. Van de 8 tussentoetsen zijn er 5 significant beter gemaakt en 3 beter, doch (net) niet significant.

Moment of truth
De tentamenvragen heb ik laten screenen door twee collega-docenten. Zij beoordeelden het niveau van de vragen als tenminste gelijk aan vorig jaar, en eigenlijk iets hoger …  Ook hebben de collega-docenten steekproefgewijs wat tentamens nagekeken. En dan is daar ‘the moment of truth’… Je krijgt het enorme pak papier en je hart begint te bonzen. Tijd om na te kijken.  Wat een resultaat! Een significant betere tentamenscore dan vorig jaar.

Nadere analyse volgt
Via de learning analytics van Canvas en de evaluatie die ik heb uitgezet onder mijn studenten, beschik ik straks over nog veel meer data die ik ga analyseren om te kijken wat blended onderwijs zo succesvol maakt. Is er een verband tussen het tentamencijfer en de tijd online in Canvas? Wat is de SUS-score van Canvas? Hoe staan de studenten tegenover blended learning? Op naar de volgende blog!

Canvas-hulp bij ‘het leed dat nakijken heet’

Het hoort erbij: nakijkwerk. Je wilt immers toch een ‘bewijs’ van bekwaamheid zien van de student. Maar het geeft een hoop ‘gedoe’. Het is vooral de  administratie eromheen die vaak – onnodig – veel tijd kost en ergernis geeft. Gelukkig biedt Canvas functionaliteiten om dit leed te verlichten.

Administratieve kwelling
Voorgaande jaren stroomde mijn mailbox over. Studenten leverden werk per e-mail in. Liefst ook nog eens meerdere versies, want ‘oops’, ze waren toch nog wat vergeten … En ondanks mijn duidelijke instructies verstuurden studenten de mails te laat; voorzagen ze de mails niet van het juiste onderwerp; en vergaten ze in de documentnaam hun studentnummer of de naam van hun samenwerkingspartner te vermelden. Menig docent zal deze kwelling herkennen. Voor je aan het echte nakijken kunt beginnen… Via Blackboard was het al een stuk(je) beter. In Canvas gaat het nog makkelijker.

Automatische feedback
Voor mijn blended module heb ik alle formatieve toetsen afgenomen en nagekeken in Canvas. Dat werkt heerlijk! Canvas berekent automatisch het eindcijfer. En omdat ik vooraf alle goede en foute antwoorden van een uitgebreide toelichting had voorzien, ontvingen studenten ook nog eens automatisch feedback. Dat vroeg weliswaar om een flinke tijdsinvestering, maar verdient zich wat mij betreft dubbel en dwars terug. Om diverse redenen, nam – en neem ik ook komend jaar – de summatieve toetsen nog af op papier. Daarover vertelde ik al in mijn blog ‘Dilemmas bij summatief toetsen’.

Indeling in groepen
De wekelijkse groepsopdracht, waarin de studenten in groepsverband de vragen opstellen die ze behandeld willen zien in de responsiecolleges, liet ik via Canvas indienen. Canvas deelt (desgevraagd) de studenten automatisch in in groepen. Ik vroeg de studenten om de opdracht gezamenlijk in te leveren; dus één inzending per groep.

Aangeven hoe opdrachten in te leveren
Je kunt in Canvas aangeven hoe studenten de opdracht mogen (of moeten) inleveren. Je kunt kiezen uit: online, op papier of via een externe tool. Bij online kun je weer kiezen uit: eenvoudige tekstinvoer, een url, of voor bestanden – waarbij je dan uiteraard het bestandtype weer kunt instellen. Ik koos voor bestanden in Word of PDF.

Pushbericht bij ingeleverde opdracht
Bij de notificaties (mededelingen) had ik ingesteld dat ik graag een pushbericht wilde ontvangen in de Canvas-app én in mijn mailbox wanneer een opdracht ingeleverd werd. In de loop van de cursus vond ik een pushbericht in de app eigenlijk wel voldoende, en heb ik ‘ontvangen van een mailbericht bij een submissie’ uitgeschakeld.

Nakijken met de Speedgrader
Het administratieve deel van het nakijken werd zo een eenvoudig te klaren klusje. Dan het nakijkwerk zelf….. Je kunt alles downloaden. Een andere optie is de functionaliteit SpeedGrader. Hiermee kun je eenvoudig submissie voor submissie langslopen en direct in het document je feedback geven: tekenen, doorhalen, eigenlijk alles wat ik nodig had. Daarnaast kun je bij het document ook nog algemene feedback geven en aangeven dat je feedback (zowel in als bij het document) naar de student of groep studenten gestuurd mag worden. Via de SpeedGrader kun je ook een cijfer toekennen en dat komt dan automatisch in het Gradebook te staan. Ik keek alles zelf na met de Speedgrader, maar je kunt de studenten ook makkelijk elkaar laten beoordelen via peer feedback.

Canvas maakt me blij. Allereerst door hoe het onderwijsvernieuwing ondersteunt, en  ook niet onbelangrijk: omdat het taken verlicht die ik tot de categorie ‘noodzakelijk kwaad’ reken.

Dilemma’s bij summatief toetsen

Week 8, Deskundigen zijn het erover eens: formatieve toetsen zijn nuttig *. In mijn blended learning module in Canvas heb ik dan ook elke week verschillende formatieve toetsen online beschikbaar gesteld. De summatieve toetsen vonden echter nog op papier en in de collegezaal plaats. Waarom eigenlijk?

Allereerst staat binnen de informatica/informatiekunde de vraag ter discussie of je voor de meer wiskundige vragen wel gebruik kunt maken van meerkeuzevragen. Zelf heb ik bij het opzetten van mijn blended learning module voor de formatieve toetsen veel meerkeuzevragen gemaakt en durf daarom te stellen dat het kan, ook voor de meer wiskundige onderwerpen. Naast de ‘standaard’ meerkeuze vragen, heb ik eveneens geëxperimenteerd met zogenaamde hotspot vragen, waarbij deelnemers op een bepaalde plek op een afbeelding moeten klikken om het juiste antwoord te selecteren. Mijn ervaring daarmee is positief. Het maakt de kans dat studenten het goede antwoord gokken minder groot.

Voordelen meerkeuzevragen én kanttekeningen
Digitaal toetsen met bijvoorbeeld meerkeuzevragen heeft als grootste voordeel  dat het nakijken minder tijd kost. Scores worden automatisch opgeteld en bijgehouden. De tijd die ik hier mee win, kan ik inzetten om mijn module verder te verbeteren. Ook is er bij het nakijken van meerkeuzevragen geen sprake van bias of beoordelingsfouten. Toch wil ik nog wel twee kanttekeningen plaatsen bij het gebruik van meerkeuzevragen bij wiskundige vragen.

Corrigeren voor gokken
Om te beginnen kan het beantwoorden van mijn meerkeuzevragen soms echt meerdere minuten per vraag kosten. Je moet namelijk een algoritme toepassen om tot het juiste antwoord te komen. En als ik wil corrigeren voor gokken dan moet ik eigenlijk meer, veel meer, vragen gaan stellen. Meer vragen dan binnen de toetstijd passen. Verder kun je meerkeuzevragen alleen maar beoordelen met goed of fout. Terwijl het mogelijk is dat een student wel de juiste aanpak en formules gebruikte maar door een vervelend rekenfoutje de vraag toch fout beantwoord heeft. Dit alles overwegende, sta ik dus voor het dilemma: wel of niet meerkeuzevragen gebruiken bij summatieve toetsen. Wegen de voordelen voldoende op tegen de nadelen?

Keuze voor veilig
Tot nu toe kies ik voor veilig. Ik neem de summatieve toetsen af met open vragen, op papier, én in de collegezaal. Maar het zou wel handig zijn als ik de summatieve toetsen online zou kunnen afnemen,. Er zijn namelijk studenten die liefst direct na het responsiecollege de summatieve toets zouden willen maken, terwijl anderen eerst nog willen oefenen. Als ik de summatieve toetsen nou ook digitaal zou afnemen, dan konden studenten op elk gewenst moment starten.

Unieke toetsen
Technisch is er al veel mogelijk in Canvas. Zo kan Canvas per student een unieke toets genereren. Canvas selecteert dan ‘at random’ vragen uit vragenblokken zodat elke student een andere toets krijgt (die alleen toegankelijk is met een bepaalde code). Het is ook mogelijk open vragen te stellen, zelfs met formules erin. Dit jaar blijf ik toch bij het ‘oude’. Ik heb niet de beschikking over een zaal met de juiste faciliteiten (BYOD is helaas nog geen beleid) en ik ben nog niet voldoende zeker van mezelf om de stap naar niet-open vragen te maken. Nog niet.

Plaats- en tijdsonafhankelijk toetsen
Zouden we studenten die summatieve toetsen ook thuis kunnen laten maken? Ja ook dat is al mogelijk met online proctorsoftware, waarmee je online kunt surveilleren. SURF heeft er een white paper  over geschreven en meldt het volgende. ‘De belofte van online proctorsoftware is dat studenten en cursisten hun examens overal (bijvoorbeeld thuis) veilig en betrouwbaar kunnen maken. Controlesoftware, videobeelden en meekijken op het scherm van de student moet voorkomen dat hij of zij fraudeert. In de VS wordt het al regelmatig toegepast en steeds vaker experimenteren Nederlandse instellingen er mee. Online proctoring biedt kansen voor internationaal en flexibel onderwijs, maar er is – zeker in Nederland – nog weinig ervaring mee. Daardoor vinden examencommissies en anderen binnen de opleiding het lastig om te besluiten of, en zo ja op welke manier zij online proctoring toepassen in hun opleiding. Zij worstelen onder meer met vragen rond privacy en fraudebestendigheid.’ Het lijkt dus veelbelovend maar ook hier zitten we voorlopig dus nog met een dilemma!

* Formatief toetsen past bij activerend onderwijs en de student verantwoordelijkheid laten nemen voor het eigen leerproces. De student kan zien waar hij staat en wat hij nog moet doornemen; krijgt feedback. De docent kan bepalen waar nog wat aandacht aan besteed moet worden bij een responsiecollege.
Formatieve toetsen tellen niet mee, summatieve toetsen wel.

Onderwijsverbetering: het is een richting geen punt

Week 7, ‘Heb lef, vernieuw je onderwijs’ riep ik eerder al. Eigenlijk zou dat gevolgd moeten worden door ‘en blijf je onderwijs verbeteren’. Stilstaan is achteruitgaan. De vraag is: hoe helpt Canvas ons hierbij?

Analytics geven inzicht
Als ik de cursusstatistieken bekijk, zie ik dat studenten met name de dag voor het responsiecollege in Canvas actief zijn. Het aantal pageviews laat week op week daar een piek zien. De individuele formatieve toetsen worden door circa 70% van de studenten op tijd gemaakt. De bespreking van die formatieve toetsen in het kader van de groepsopdracht  wordt daarentegen door nog geen 50% van de studenten ingeleverd. Het team based learning komt daardoor helaas onvoldoende uit de verf. Als verbeterpunt voor volgend jaar heb ik daarom genoteerd om aan de groepsopdrachten ook twee face-to-face summatieve toetsen toe te voegen om zo het team-based learning te stimuleren. Voor de online voorbereiding (het flipped classroom deel) houd ik dan mijn formatieve toetsen zoals ik die nu ook heb. Hiermee denk ik weer een mooie kwaliteitsimpuls te kunnen geven aan het onderwijs.

Hoe goed is de vraag?
Ook de inhoud van de toetsen is onderwerp voor verbetering. Canvas biedt via de toetsstatistieken de mogelijkheid om ook die (automatisch) te beoordelen. Zo kan ik naar de RIT-waarde kijken (die in Canvas onder ‘discriminatie index’ genoemd staat) die iets zegt over hoe goed de vraag is (meer info: http://onlineexamineren.nl/rit-waarde-op-de-rit/). Zo krijg ik dus ook weer voldoende suggesties voor die gewenste kwaliteitsimpuls.

Waarde statistics
Al die statistische gegevens zijn prachtig, maar de valkuil is dat we er teveel waarde aan toekennen. Zo zijn de gegevens over hoe lang iemand actief was troebel te noemen (je kan immers ook inloggen en weglopen) en hoe betrouwbaar is het aantal (tijdige) submissies als mensen in groepsverband (wat je wilt aanmoedigen) met de formatieve toetsen bezig zijn? Bovendien heb ik een relatief kleine groep studenten, dus wat zeggen mijn resultaten? Hoewel wellicht niet alles even ‘significant’ is geeft het mij wel degelijk een indicatie. Net als bij onderwijsverbeteringen geldt hierbij: het is een richting, geen punt.