Kun je jezelf voorstellen en beschrijven wat je doet?

Op dit moment ben ik bezig met onderzoek naar de veiligheid van kunstmatige intelligentie. Specifiek bestudeer ik “interpreteerbaarheid”, de wetenschap van hoe AI-systemen intern opereren. De hoop is dat we uiteindelijk schadelijk gedrag, zoals bedrog, kunnen detecteren en voorkomen. (Maar we zijn er nog niet.)

Binnen dit deelgebied van “interpreteerbaarheid” werk ik aan een onderzoeksagenda die ik heb samengesteld met Prof. Daniel Murfet aan de Universiteit van Melbourne en diverse samenwerkingspartners. We onderzoeken “ontwikkelingsinterpreteerbaarheid”, waarbij we ons afvragen wat we kunnen leren over de interne structuren van neurale netwerken door te observeren hoe deze structuren zich ontwikkelen tijdens de training. De parallel met ontwikkelingsbiologie gaat verder dan alleen de naam. Dagelijks zijn we bezig met onderzoek, het organiseren van evenementen en conferenties, en het ontwikkelen van cursussen en ander materiaal. Ik ben verantwoordelijk voor de toegepaste/experimentele onderzoeksprojecten.

Hoe ben je gekomen waar je nu bent?

Waren er bepalende momenten of beslissingen?

Na het afronden van een masteropleiding in theoretische natuurkunde in 2021, heb ik een jaar gewerkt aan een gezondheidstechnologie-startup die ik samen met mijn verloofde, Robin Laird, heb opgericht. Uiteindelijk besefte ik dat mijn hart er niet in lag, en hebben we het bedrijf stopgezet. Kunstmatige intelligentie had altijd al mijn interesse en begon me ook zorgen te baren, dus maakte ik de overstap naar AI-veiligheid. Het besluit om deze verschuiving te maken was waarschijnlijk het meest cruciale moment.

Deelnemen aan SERI MATS, een in-person onderzoeksbeurs van twee maanden, in de winter van 2022-2023 was het volgende belangrijke keerpunt. Het bracht me in contact met de bredere gemeenschap van AI-veiligheid, maakte voor mij duidelijk dat ik iets te bieden had, en zorgde ervoor dat ik zo snel mogelijk “aan boord” werd gebracht.

Een laatste belangrijk keerpunt was het organiseren van een conferentie over de singular learning theory in juni. Dit resulteerde in de ontwikkelingsinterpreteerbaarheidsagenda waaraan ik momenteel werk en leidde tot samenwerkingen die nu betrokken zijn bij deze agenda.

Wat is een uitdaging die je tot nu toe in je carrière bent tegengekomen?

En hoe heeft het je loopbaangerelateerde beslissingen voor de toekomst beïnvloed?

Het lastigste was waarschijnlijk om de verzonken-kostenvalkuil onder ogen te komen en te erkennen dat het bedrijf dat ik had opgericht niet voorbestemd was om te slagen. Ik had gemakkelijk nog een jaar kunnen verspillen door in die richting door te drukken, zonder te erkennen dat het niet de juiste keuze was. Het is moeilijk om afscheid te nemen van iets waar je om geeft, maar soms moet je dat doen.

Welke voordelen of kansen hebben je geholpen op het carrièrepad te komen waar je nu op zit?

Het uitgebreide netwerk waarmee ik in contact ben gekomen via EA is geweldig geweest. Ik heb deze koerswijziging veel, veel sneller kunnen maken dan ik denk dat ik in andere vergelijkbare vakgebieden had kunnen bereiken.

Wat advies zou je geven aan iemand die een vergelijkbaar pad wil volgen?

Een paar uiteenlopende stukjes advies:

Volg niet blindelings je passies. Of beter gezegd, realiseer je dat passies worden opgebouwd in plaats van gevonden en dat het opbouwen van een passie hard werken is. Veel mensen vinden nooit die vurige allesverterende passies, en dat is prima – misschien zelfs gezond. Een baan hebben die je betrokken houdt, je nieuwsgierig maakt en je in contact brengt met geweldige mensen is genoeg.

Voor de ‘Effectieve Altruïsten’: je zou je misschien te veel kunnen richten op het optimaliseren van belangrijkheid/verwaarlozing/haalbaarheid. Over het algemeen denk ik dat het beter is om een “tevredenstellende” mentaliteit te hanteren – vind een oorzaakgebied dat belangrijk genoeg is, en vertrouw dan op je persoonlijke sterke punten en neigingen om je naar een subgebied te leiden waar je de grootste marginale impact kunt hebben. Mensen zijn behoorlijk goed in het per ongeluk terechtkomen in verwaarloosde niches als ze lang genoeg in een bepaald gebied blijven.

Hoe zie je je carrière zich in de toekomst ontwikkelen om je impactdoelen verder te bevorderen?

Op dit moment denk ik dat onze agenda waarschijnlijk zal slagen (dat wil zeggen, ik verwacht dat al onze projecten de komende zes maanden succesvol zullen zijn). Dus ik hoop deze agenda daarna voort te zetten, wat mogelijk inhoudt dat ik een toegewijde onderzoeksorganisatie ga starten.