Podcast met Cory Doctorow: Sciencefiction en de toekomst van de wetenschap: digitale vooruitgang benutten voor de toekomst

Wetenschappers en onderzoekers waarderen sciencefiction steeds meer vanwege de bijdragen ervan aan het anticiperen op toekomstige scenario's. Als onderdeel van haar missie om de richtingen te verkennen waarin veranderingen in de wetenschap en wetenschappelijke systemen ons leiden, heeft de Centrum voor Wetenschap Futures sprak met zes toonaangevende sciencefictionauteurs om hun perspectieven te verzamelen over hoe de wetenschap het hoofd kan bieden aan de vele maatschappelijke uitdagingen waarmee we de komende decennia te maken zullen krijgen. De podcast is in samenwerking met NATUUR.

In onze zesde en laatste aflevering komt Cory Doctorow bij ons om de kwestie van vertrouwen in de wetenschap te bespreken en wat we kunnen doen om dit te versterken. Hij behandelt kwesties met kunstmatige intelligentie en met betrekking tot algoritmen en trainingsmodellen. Voor Doctorow wil hij zien hoe de coördinerende kracht van digitale technologie kan worden benut voor een duurzamere toekomst.

Abonneer je en luister via je favoriete platform

---

---

Afschrift

Paul Shrivastava (00:03):

Hallo, ik ben Paul Shrivastava van de Pennsylvania State University. In deze podcastserie spreek ik met enkele van 's werelds toonaangevende sciencefictionschrijvers. Ik wil van hen horen hoe de wetenschap ons kan helpen de veelzijdige uitdagingen aan te pakken die voor ons liggen. Zij verdienen immers hun brood met het nadenken over de toekomst en hoe deze zou kunnen of moeten zijn.

In deze aflevering praat ik met Cory Doctorow, een sciencefictionromanschrijver, journalist en technologieactivist. De afgelopen twintig jaar heeft hij veel werken gepubliceerd over technologiemonopolies en digitale surveillance. Ons gesprek ging over digitaal rechtenbeheer en sociale rechtvaardigheid en duurzaamheid in de digitale wereld. Ik hoop dat je ervan geniet.

Welkom, Cory, en bedankt dat je deel uitmaakt van deze podcast. Kunt u beginnen met ons iets meer te vertellen over uw relatie met de wetenschap in het algemeen, en met het schrijven van sciencefiction?

Cory Doctorow (01:05):

Nou, ik ben opgegroeid onder extreem gelukkige omstandigheden voor iemand die geïnteresseerd is in sciencefiction. Ik ben specifiek in Toronto opgegroeid in de jaren tachtig. En er was daar een vrouw die nogal een wervelwind was op dit gebied, een vrouw genaamd Judith Merril, een groot schrijver, redacteur en criticus. Ze was de doyenne van de Britse nieuwe golf van sciencefiction. En dus stond Judy toe dat iedereen hun verhalen naar voren bracht en ze met haar in de workshop bracht, ze bekritiseerde ze. Dus dit was zoiets van... ik weet het niet. Het is alsof je hulp bij je natuurkundehuiswerk krijgt van Einstein. En toen begon ze schrijfworkshops, waarbij ze de veelbelovende schrijvers die naar haar toe kwamen, samenbracht in wekelijkse bijeenkomsten. En dus zat ik jarenlang in een van die vakken, en ik had zo dicht mogelijk bij een formele stage in sciencefiction gezeten.

In termen van wetenschap ben ik een dilettant. Het dichtst bij het feit dat ik een wetenschapper ben, is het behalen van een eredoctoraat in computerwetenschappen van de Open Universiteit, waar ik gastprofessor van CS ben. En in het bijzonder heb ik een geweldige beleidsrelatie gehad met de informatica, omdat ik nu al meer dan twintig jaar werk op een gebied dat we grofweg digitale mensenrechten zouden kunnen noemen, gerelateerd aan toegang tot informatie, censuur, privacy en gelijkheid. online.

Paul Shrivastava (02:17):

Laten we dus wat dieper ingaan op enkele van deze kwesties. U heeft een reeks van deze onderwerpen behandeld die te maken hebben met technologische vooruitgang en op wiens belangen en gunsten deze inwerken. Je hebt het gehad over bewakingstechnologie in Kleine broer, auteursrechtwetten in Piraten bioscoop, naar cryptocurrency in Rode Team Blues. Heel vaak portretteren de verhalen de negatieve gevolgen van ongecontroleerde technologische groei, of technologische groei in dienst van het kapitalisme, zo je wilt. Hoe ziet u de rol van de wetenschap in dit steeds digitalere landschap waarin we ons begeven?

Cory Doctorow (02:57):

Ik denk dat je geen wetenschap kunt hebben zonder gelijkheid. In de zin dat hetgene dat wetenschap onderscheidt van de vormen van kenniscreatie die aan de verlichting voorafgaan, toegang is, wat de voorwaarde is voor vijandige peer review. En dus afgezien van een morele verplichting – waarvan ik denk dat we kunnen zeggen dat we allemaal morele plichten tegenover elkaar hebben – denk ik dat er slechts een instrumenteel argument is om te zeggen dat als andere mensen je gegevens en je methoden niet mogen inspecteren, en probeer je werk te repliceren en je vrijuit te bekritiseren, dan doe je geen wetenschap. Alchemisten deden iets dat veel op wetenschap leek, toch? Ze observeerden de wereld, formuleerden een hypothese, ontwierpen een experiment, voerden het experiment uit en stierven allemaal door het drinken van kwik. Want het blijkt dat je jezelf voor de gek kunt houden dat het experiment een succes was, tot het punt waarop je doodgaat aan de kwikvergiftiging.

Cory Doctorow (04:05):

En het verschil tussen alchemie en wetenschap is niet dat de wetenschappers die daarna kwamen slimmer waren of minder vatbaar voor zelfbedrog. Het is dat ze onderworpen waren aan de ontberingen van vijandige peer review, die als voorwaarde publicatie en toegang vereisen. En ik denk dat als er sprake is van machtsconcentratie in de commerciële sector, dat wil zeggen monopolie, het voor toezichthouders heel moeilijk is om onafhankelijk te blijven. Deze bedrijven worden te groot om failliet te gaan en te groot om in de gevangenis te belanden. Dan creëer je feitelijk de voorwaarden voor mensen die de wetenschap ontkennen, wat desastreuze gevolgen heeft voor henzelf, maar ook voor ons allemaal.

Paul Shrivastava (04:39):

Nou, ik ben het met je eens dat er behoefte aan is. Ik denk dat de verovering waar u naar verwijst door de krachten van bedrijven en overheden, die de twee belangrijkste financieringsbronnen voor de wetenschap zijn, compleet is. En nu kijken we naar kunstmatige intelligentie als een alomtegenwoordige wetenschappelijke onderneming die alles gaat veranderen. Wat voor soort beleidsaanbevelingen zou je kunnen voorstellen voor die hele arena?

Cory Doctorow (05:09):

Nou, ik zou willen beginnen met te zeggen dat je, als eerste persoon die AI noemt, alle anderen op dit telefoongesprek een drankje schuldig bent. Dat is nu de regel bij AI. Laat ik beginnen met een voorbehoud: ik ben er niet van overtuigd dat AI is wat u zegt, een alomtegenwoordige wetenschappelijke onderneming die alles gaat veranderen, om tal van redenen. Ik ben sceptisch dat AI zonder nauw toezicht betrouwbare dingen kan produceren die betrouwbaar genoeg zijn om te gebruiken in omgevingen met hoge inzet. En als het toezicht dezelfde zorgvuldigheid vereist als voorheen, dan weet ik niet of daar een reden voor is. Ik denk dat als we voorzichtig zijn met onze regulering en we zeggen: “Kijk, als de AI kan hallucineren en als de hallucinatie tot dodelijke gevolgen leidt, kan er alleen toezicht worden gehouden op de AI in een verhouding van één: een." Als de zelfrijdende auto 90% van de tijd veilig rijdt en 10% van de tijd optrekt tegen tegemoetkomend verkeer, dan is het aantal chauffeurs-begeleiders dat je nodig hebt voor elke zelfrijdende auto één, dat wil zeggen dat je dat niet doet. één bestuurder ontslaan. Dus nu heb je gewoon een duurdere auto. 

Cory Doctorow (06:14):

En ik denk dat elke zeepbel die afhankelijk is van het blijven aantrekken van investeringskapitaal dat meestal in brand wordt gestoken voordat er enig rendement wordt gegenereerd, echt op een hoop hype moet draaien. En die hype zien we in enorme mate om ons heen. In plaats van je zorgen te maken over de daadwerkelijke zorgen over AI, namelijk het beslissingsondersteunende algoritme dat je een hypotheek ontzegt vanwege je ras, of dat je kind naar beschermende diensten stuurt vanwege je economische status, of dat je ontzegt op borgtocht of toegang tot een land concentreren we ons – eerlijk gezegd, in mijn professionele hoedanigheid – op slechte sciencefiction over het automatisch aanvullen van steroïden, waardoor we wakker worden en ons allemaal in paperclips veranderen. Dat laat de echte materiële dingen die met AI gebeuren buiten beschouwing.

Paul Shrivastava (07:08):

Dus wat is de rol van wetenschapscommunicatoren bij het uiteenspatten van deze zeepbel, de hype die rond AI is opgebouwd? Ik bedoel, het algemene verhaal is dat het alles gaat veranderen. En wat ik van u hoor, is dat er een aantal echte fundamentele problemen aan ten grondslag liggen.

Cory Doctorow (07:26):

Ik denk dat er enkele hiaten zijn in de hoofdlijn van de wetenschapscommunicatie over AI, die met succes zouden kunnen worden opgevuld. Ik heb dus nog nooit een populair-wetenschappelijk programma de potentiële grenzen van federatief leren horen beschrijven. Bijvoorbeeld Wat gebeurt er als we de grote servers uitschakelen? Wat als de investeerders gewoon verder gaan? Hoe ziet AI eruit als we nooit meer een groot model trainen en alleen maar de bestaande modellen afstemmen die op standaardhardware kunnen draaien? En dan een taxonomie van applicaties die niet gevoelig zijn voor de algemeen begrepen problemen met AI, dus die met een lage inzet of die veerkrachtige applicaties. Wat zijn die toepassingen? Als we alle aanvragen bekijken waarbij u één-op-één begeleiding nodig heeft, welke zijn dat dan? En die halen we eruit, en wat blijft er dan over?

Paul Shrivastava (08:15):

Laten we verder gaan met praten over de periode van het Antropoceen. Processen die het leven ondersteunen, zijn nu aan het veranderen en storten zelfs volledig in. Hoe kunnen we de vooruitgang in de digitale wereld, die u op zoveel verschillende manieren hebt besproken, benutten om de menselijke impact op het milieu te verzachten en een duurzame toekomst te garanderen?

Cory Doctorow (08:38):

Mijn nieuwste roman is een roman hierover, genaamd De verloren zaak. En wat er in deze roman is gebeurd, is geen deus ex. We zijn er nog niet achter hoe we koolstof kunnen afvangen in een tempo dat alle huidige stand van de techniek te boven gaat. Maar wat we hebben gedaan, is dat we het serieus hebben genomen. Hier zitten we, weet je, vast in deze bus, rennend richting een klif. En de mensen op de eerste rijen en in de eerste klas blijven zeggen: er is geen klif. En als er een klif is, blijven we gewoon versnellen totdat we eroverheen gaan. En één ding weten we zeker: we kunnen niet uitwijken. Als we uitwijken, kan de bus gaan rollen en kan iemand zijn arm breken, en niemand wil een gebroken arm. En dit is een boek waarin mensen het stuur pakken en uitwijken. Waar miljoenen mensen betrokken zijn bij zeer serieuze langetermijnprojecten om bijvoorbeeld elke kuststad enkele kilometers landinwaarts te verplaatsen. 

Cory Doctorow (09:32):

En die klimaataanpassing is, als je erover nadenkt, behoorlijk duizelingwekkend. Het kan een beetje demoraliserend zijn om te denken: ik denk dat alle extra arbeid die iedereen de komende 300 jaar heeft, zal gaan naar het herstellen van deze dwaze fouten die we eerder hebben gemaakt. En dus is dit een boek dat over dat project gaat. En het gaat erom dat project na te streven volgens de inzichten van een dierbare vriendin van mij die onlangs een heel goed boek heeft geschreven, Debbie Chachra, wiens boek heet Hoe infrastructuur werkt. En Deb is een materiaalwetenschapper, en zij wijst erop dat energie feitelijk oneindig overvloedig aanwezig is, maar dat materialen zeer schaars zijn. En toch hebben we gedurende het grootste deel van de menselijke geschiedenis materialen als overvloedig beschouwd, gebruikten we ze één keer en gooiden we ze weg. En we behandelden energie als schaars. En er is een technische heroriëntatie die latent aanwezig is in dit boek en die Deb heel expliciet maakt in haar boek, waarin we dingen doen zoals meer energie gebruiken om dingen te produceren, zodat ze gemakkelijker weer in de materiële stroom worden afgebroken.

Paul Shrivastava (10:38):

Het lijkt erop dat we druk bezig zijn met het consumeren van de planeet in een ongekend tempo. En kan sciencefiction op de een of andere manier een hulpmiddel zijn om mensen te helpen hun wereldbeeld te herformuleren, zodat het beter aansluit bij wat hier aan de hand is: onze uitdagingen op deze planeet?

Cory Doctorow (10:54):

Nou, en dit is iets waar ik over schrijf sinds mijn roman Weglopen, in 2017. Dit idee dat overvloed voortkomt uit de toegang tot materiaal, maar ook uit de sociale constructie van wat we willen. En tot slot de efficiëntie van de distributie van goederen. Ik ben dus huiseigenaar en dat betekent dat ik drie keer per jaar een gat in de muur moet maken. En dus bezit ik een boormachine, en ik noem het gekscherend de minimaal haalbare boormachine. Het is de boor die economisch rationeel is voor iemand die drie gaten per jaar maakt. En ik moet een hele la opgeven voor het opbergen van deze vreselijke boormachine. En wat je beseft is dat je een enorme belasting betaalt, zowel op het gebied van de goederen die je hebt als op de beschikbaarheid van ruimte in je huis, om toegang te behouden tot dingen die je zelden nodig hebt. Er is nog een ander soort oefening, ik noem het soms de bibliotheeksocialisme-oefening, waarbij er gewoon een stochastische wolk van oefeningen in je buurt is die weet waar ze zijn, die telemetrie bijhouden over hun gebruik om de toekomstige productie te verbeteren. Ze vallen gemakkelijk terug in de materiaalstroom. En je kunt altijd de hand op een boormachine leggen als je die nodig hebt, en het is de beste boormachine ooit gemaakt.

Cory Doctorow (12:08):

Vermenigvuldig dat met grasmaaiers en de extra borden die je bewaart voor Kerstmis of etentjes, en alle andere dingen die je in huis hebt en die je niet altijd nodig hebt. En dat is een wereld van enorme overvloed. Dat is meer luxe. En als je deze drie dingen combineert, de efficiëntie van materiaal- en energiegebruik, het coördinerende karakter van technologie en de engineering van ons verlangen, ontstaat er een toekomst waarin we leven met een veel kleinere materiaal- en energievoetafdruk en een veel grotere ecologische voetafdruk. luxe leventje. Een leven van enorme overvloed.

Paul Shrivastava (12:42):

Over die hoopvolle boodschap ga ik u nog een laatste vraag stellen. En dat wil zeggen: als er één les zou zijn die de wetenschap zou kunnen leren van sciencefiction, wat zou dat dan zijn in jouw gedachten?

Cory Doctorow (12:56):

Ik zou zeggen dat het belangrijkste wat science fiction doet, met betrekking tot de wetenschap, het uitdagen van de sociale relaties van technologie en van wetenschappelijke ontdekkingen en wetenschappelijke kennis is. De belangrijkste vraag over technologie is zelden: wat doet dit? Maar liever: voor wie doet het het en voor wie doet het het? En die technologie onder democratische controle is heel anders dan technologie die aan mensen wordt opgelegd.

Het idee dat een technologie die is ontworpen met de nederigheid om te begrijpen dat je de omstandigheden waaronder die technologie zal worden gebruikt niet kunt voorspellen – en dus de ruimte aan de gebruikers zelf laat om deze aan te passen – dat is het beste van alle technische werelden. En elke taal heeft hier een naam voor. Je zou het een bodge kunnen noemen, wat soms een beetje pejoratief is. Maar ik denk dat we allemaal van een goed bodge houden. In het Frans is het bricolage. In het Hindi is het jugaad.

Paul Shrivastava (14:00):

Jugaad!

Cory Doctorow (14:02):

Elke taal heeft hier een woord voor, en wij zijn er dol op. En alleen door de nederigheid om te anticiperen op het onvoorspelbare, zijn wij de waardige voorouders van onze intellectuele nakomelingen die na ons zullen komen.

Paul Shrivastava (14:22):

Bedankt voor het luisteren naar deze podcast van het Center for Science Futures van de International Science Council, uitgevoerd in samenwerking met het Arthur C. Clarke Center for Human Imagination van UC San Diego. Bezoek futures.council.science om meer werk van het Center for Science Futures te ontdekken. Het richt zich op opkomende trends in wetenschap en onderzoekssystemen en biedt opties en hulpmiddelen om beter geïnformeerde beslissingen te nemen.

---

Paul Shrivastava, hoogleraar management en organisaties aan de Pennsylvania State University, presenteerde de podcastserie. Hij is gespecialiseerd in de implementatie van de Sustainable Development Goals. De podcast wordt ook gemaakt in samenwerking met het Arthur C. Clarke Center for Human Imagination van de Universiteit van Californië, San Diego.

Het project werd begeleid door Mathieu Dennis en gedragen door Dong Liu, van de Centrum voor Wetenschap Futures, de denktank van het ISC.

---

---

foto uit Elimende Inagella on Unsplash.

---

Disclaimer
De informatie, meningen en aanbevelingen die in onze gastblogs worden gepresenteerd, zijn die van de individuele auteurs en weerspiegelen niet noodzakelijkerwijs de waarden en overtuigingen van de International Science Council.