Mikä uhkaa ihmiskuntaa koko elämämme tietokoneisoitumisella

2024 Kirjoittaja: Seth Attwood | [email protected]. Viimeksi muokattu: 2023-12-16 16:04

Älypuhelimet, robotit ja tietokoneet helpottavat elämäämme, mutta ehkä menetämme tässä jotain? Toimittaja puhui amerikkalaisen kirjailijan Nicholas Carrin kanssa yliautomaation vaaroista ja jopa uhista.

Yleisesti uskotaan, että kaiken ja kaikkien automatisointi parantaa elämämme laatua. Tietokoneet auttavat meitä saavuttamaan huippusuorituskyvyn. Ohjelmistosovellukset nopeuttavat ja helpottavat tehtäviä. Robotit ottavat ikävän ja kovan työn. Piilaakson jatkuva innovaatiovirta vain vahvistaa ihmisten uskoa siihen, että uudet teknologiat parantavat elämää.

On kuitenkin toinenkin mielipide. Kirjailija Nicholas Carr alistaa nykyaikaisen digitaalisen maailman postulaatit puolueettoman analyysin alle. Hänen esseen "Does Google Make Us Stupid?", joka julkaistiin Atlanticilla vuonna 2008, on edelleen kiistanalainen, kuten myös hänen vuoden 2010 bestseller-kirjansa The Shallows.

Sen teorian kannattajat, että teknologia pelastaa maailmamme, näkevät Carrin yhtenä voimakkaimmista vihollisistaan. Ja ne, jotka ovat varovaisia teknologisen kehityksen seurauksista ihmiskunnalle, kunnioittavat sitä sen tasapainoisen argumentoinnin vuoksi.

Nyt Carr on kiinnostunut uudesta kysymyksestä: pitäisikö meidän pelätä, että meille ei vähitellen tule vaikeita tehtäviä maailmassa? Tuleeko elämästämme liian tehokasta uuden teknologian ansiosta?

Tapasin kirjailijan jokin aika sitten puhuakseni hänen uudesta kirjastaan, The Glass Cage: Automation and Us, ja siitä, mikä sai hänet kirjoittamaan sen.

1. Uusien teknologioiden tärkeimmän myytin kumoaminen

Tom Chatfield:Jos ymmärrän oikein, kirjassa "The Glass Cage" yrität kumota myytin siitä, että elämämme yksinkertaistaminen teknologisen kehityksen ansiosta on välttämättä myönteinen ilmiö.

Nicholas Carr:Sekä henkilökohtaisella että institutionaalisella tasolla olemme tottuneet ajattelemaan, että tehokkuus ja mukavuus ovat oletuksena hyviä, ja niiden maksimointi on ehdottomasti kannatettava tavoite. Minusta tämä lähestymistapa tekniikkaan kaikissa muodoissaan, erityisesti tietokoneautomaation muodossa, on melko naiivi. Tämä koskee myös omia toiveitamme ja todellista elämäämme nykymaailmassa.

Korvaako tietokone koskaan ihmistä?

T. Ch.:Ja silti useimmat teknisen kehityksen kannattajat noudattavat utilitaristista näkemystä, jonka mukaan suurimmat tekemämme virheet johtuvat tehokkuuden ja logiikan laiminlyönnistä, emmekä itse asiassa tiedä, mikä on meille hyväksi. Siksi heidän näkökulmastaan teknisen kehityksen tehtävänä on tunnistaa ihmisen ajattelun puutteet ja sitten luoda järjestelmiä, jotka kompensoivat nämä puutteet. Onko tämä mielipide väärä?

N. K.: Toisaalta monilla tietotekniikan ja automatisoitujen järjestelmien kehittämisen innovaatioilla ei ole mitään tekemistä sen laajan väitteen kanssa, että ihminen on tietokoneisiin verrattuna erittäin epätäydellinen. Kyllä, tietokone voidaan ohjelmoida suorittamaan tiettyjä toimintoja loputtomiin tasalaatuisina. Ja on totta, että ihminen ei kykene sellaiseen.

Mutta jotkut menevät vielä pidemmälle ja väittävät, että ihmiset ovat liian epätäydellisiä, että heidän rooliaan tulisi rajoittaa mahdollisimman paljon ja tietokoneiden pitäisi olla vastuussa kaikista perustehtävistä. Tässä ei ole kyse vain inhimillisten puutteiden kompensoinnista - ideana on poistaa inhimillinen tekijä kokonaan, minkä seurauksena elämämme väitetään muuttuvan paljon paremmaksi.

T. Ch.: Näyttää siltä, että tämä ei ole paras idea. Onko automaatiossa optimaalinen taso?

N. K.: Mielestäni kysymys ei ole siitä, tarvitseeko meidän automatisoida tämä vai toinen monimutkainen tehtävä. Kysymys on siitä, kuinka käytämme automaatiota, kuinka tarkalleen käytämme tietokoneita täydentämään ihmisten tietoja ja taitoja, kompensoimaan ihmisen ajattelun ja käyttäytymisen puutteita sekä kannustamaan ihmisiä hyödyntämään omaa kokemustaan uusien korkeuksien saavuttamiseksi.

Muutamme tietokonenäytön tarkkailijoiksi

Ohjelmistoihin liiallinen riippuvuus voi tehdä meistä tietokonemonitoreiden tarkkailijoita ja prosessivirtojen operaattoreita. Tietokoneilla voi olla erittäin tärkeä rooli, koska olemme vain ihmisiä – voimme joutua ennakkoluulojen uhreiksi tai jäädä paitsi tärkeästä tiedosta. Mutta vaarana on, että on liian helppoa ulkoistaa kaikki toiminnot tietokoneille, mikä olisi mielestäni väärä päätös.

2. Onko sinun tuotava tosielämä lähemmäs videopelin skenaariota?

T. Ch.: Minusta oli ilo huomata, että mainitset kirjassasi videopelit esimerkkinä ihmisen ja koneen välisestä vuorovaikutuksesta, jossa tarkoituksena on voittaa vaikeudet, ei välttää niitä. Suosituimmat pelit ovat eräänlaista työtä, joka antaa pelaajalle tyytyväisyyden tunteen. Voimme vain valittaa, että työ, jota monet meistä joutuvat tekemään päivittäin, vaatii paljon vähemmän taitoa ja tuo meille paljon vähemmän iloa.

Videopelit kannustavat pelaajaa ponnistelemaan ja käyttämään aivoja mahdollisimman paljon

N. K.: Videopelit ovat mielenkiintoisia siinä mielessä, että niiden konsepti on vastoin yleisesti hyväksyttyjä ohjelmiston luomisperiaatteita. Tietokonepelien tarkoitus ei ole ollenkaan vapauttaa käyttäjää haitoista. Päinvastoin, ne stimuloivat pelaajaa ponnistelemaan ja käyttämään aivoja mahdollisimman paljon. Nautimme videopeleistä juuri siksi, että ne haastavat meidät jatkuvasti kasvavilla haasteilla. Joudumme jatkuvasti vaikeisiin tilanteisiin - mutta emme tilanteisiin, jotka aiheuttavat epätoivoa. Jokaisen uuden tason ylittäminen vain hioo taitojamme.

Tämä prosessi on hyvin samanlainen kuin se, kuinka henkilö saa elämänkokemusta tosielämässä. Kuten tiedämme, kykyjensä kehittämiseksi ihmisen on kohdattava vakavia esteitä yhä uudelleen ja voitettava ne yhä uudelleen ja uudelleen käyttämällä kaikkia tietojaan ja taitojaan. Vähitellen henkilö saavuttaa uuden tason, jonka jälkeen esteiden monimutkaisuus lisääntyy.

Luulen, että ihmiset rakastavat videopelejä samasta syystä kuin he saavat tyydytystä uusien kokemusten saamisesta ja esteiden ylittämisestä. Vaikean tehtävän ratkaisu, jonka aikana hankitaan uutta tietoa, joka on tarpeen uusien, vielä monimutkaisempien vaikeuksien voittamiseksi, antaa ihmiselle suuren ilon.

Täydellinen alistuminen tietokoneelle johtaa meidät elämään, jossa on vain vähän tilaa itsensä toteuttamiselle

Yksi tärkeimmistä huolenaiheista, joita kirjassa ilmaisen, on se, että asenteemme edistymiseen liittyy haluun välttää vaikeiden ongelmien ratkaisemista niin paljon kuin mahdollista. Minusta näyttää siltä, että tämä näkökulma on ristiriidassa elämään tyytyväisyyden ja itsensä toteuttamisen käsitteen kanssa.

3. Poistavatko tietokoneet ihmisten tarpeen?

T. Ch.: Toisin kuin videopeleissä, kova työ ei välttämättä palkita todellisessa maailmassa. Todellinen maailma on epäreilu ja epätasapainoinen. Ehkä huolestuttavin trendi tässä on se, että yksilön edut (psykologisesti, henkilökohtaisesti ja jopa selviytymisen kannalta) putoavat yhä enemmän sopusoinnussa yritysten ja hallituksen tarkoituksenmukaisuuden käsitteiden kanssa. Pelkäätkö, että tietokoneet lopulta korvaavat ihmiset?

Monet pelit ovat vaikeita ohittaa ja vaativat pelaajilta harvinaista taitoa ja kekseliäisyyttä. Joten miksi muun tekniikan pitäisi vain helpottaa elämäämme?

N. K.: Kun keräsin materiaalia kirjaa varten, minua pelotti kovasti artikkeli (jota lainaan tekstissä), jonka oli kirjoittanut sotilasstrategian asiantuntija. Hänen mukaansa tietoteknologioiden käytön lisääntyessä taistelukentällä saattaa hyvin pian olla, ettei sotilasasioissa ole enää tilaa ihmiselle. Päätöksenteon nopeus on kasvanut niin paljon, että ihmiset eivät yksinkertaisesti pysty pysymään tietokoneiden mukana. Olemme väistämättä siirtymässä kohti täysin automatisoitua sodankäyntiä: miehittämättömät ilma-ajoneuvot päättävät itse, milloin ampuvat ohjuksia kohteita, ja maassa olevat robottisotilaat päättävät itse, milloin ampuvat.

Mielestäni tämä tilanne ei ole havaittavissa vain sotilasasioissa, vaan myös monilla muilla aloilla - esimerkiksi finanssimaailmassa. Ihmiset eivät yksinkertaisesti pysy tietokoneiden perässä esimerkiksi käydessään kauppaa rahoitusvälineillä.

Mikä meitä odottaa? Emme voi vain menettää kykyä, joka erottaa meidät tietokoneista omien toimintojemme kriittisessä arvioinnissa - ehkä toteutamme tällaiset järjestelmät ajattelemattomasti uskoen, että pääasia on päätöksenteon nopeus. Ja sitten, jos olemme vakuuttuneita siitä, että olimme väärässä, huomaamme, ettei paluuta ole. Hyvin usein osoittautuu mahdottomaksi integroida henkilöä järjestelmään, joka on alun perin rakennettu tietotekniikan varaan.

T. Ch.: Minäkin olin kauhuissani, kun luin kirjastasi kohdan automatisoidusta sodankäynnistä. Minusta tuli tunne, että prosessia, joka johtaa meidät täysin autonomisiin taistelujärjestelmiin, ei voida pysäyttää. Osa kauhustani tulee muistoista vuoden 2008 finanssikriisistä, joka käytännössä pyyhki pois biljoonia dollareita. Ainakin nyt ihmiset ovat vastuullisempia taloudestaan. Mutta jos näin tapahtuu sotilaallisella alalla, ei dollareita tuhoudu, vaan ihmishenkiä.

Tulevaisuus ilman ihmisiä?

N. K.: Kyse ei ole vain siitä, että uusia teknologioita, erityisesti ohjelmistoteknologioita, voidaan nykyään monistaa ja levittää hyvin nopeasti. Asia on siinä, että kaikki nämä prosessit tapahtuvat kilpailuympäristössä. Olipa kyseessä kilpavarustelu tai yrityskilpailu, heti kun joku kilpailijoista saa lyhytaikaisen edun yhden tai toisen tekniikan kustannuksella, tämä tekniikka otetaan heti käyttöön aina kun mahdollista - koska kukaan ei halua olla mukana haittaa.

Mielestäni tässä tilanteessa on liian helppoa unohtaa se tosiasia, että olemme pohjimmiltaan eläimiä. Ihmiset ovat kulkeneet evoluution polun läpi vuosituhansien ajan voidakseen elää ja selviytyä. Ihmisyyden rooli sekä tyytyväisyytemme ja itseosaamisemme liittyvät läheisesti kokemukseemme elää maailmassa, joka määrää tavanomaista tahtimme.

Siksi, kun vastustamme ihmistä kaikkine fyysisine eduineen ja haittoineen nopeaa ja tarkkaa tietokonetta vastaan, on halu luopua koko elämämme tietokoneille. Unohdamme kuitenkin, että täydellinen alistuminen tietokoneelle johtaa meidät elämään, jossa on vain vähän tilaa itsensä toteuttamiselle.

4. Kuinka automatisoimme maailman?

T. Ch.: Uskon, että meidän on suhtauduttava kriittisesti uusiin teknologioihin, mutta olen huolissani siitä, että ihmiset muuttavat tarpeettomat vaikeudet ja antiteknologian "aitouden" fetissiksi. On olemassa sellainen moderni ajatuskoulu, joka ylistää kovaa fyysistä työtä ja väittää, että kaiken tekemämme on oltava käsityötä ja aitoa. Minusta tällainen kanta haisee snobilta, eikä siinä oteta huomioon valtavaa määrää myönteisiä saavutuksia, joita teknologisen kehityksen demokratisoituminen on tuonut mukanaan.

N. K.: Olen täysin samaa mieltä kanssasi. Haastattelussa minulta kysyttiin, kuinka varovainen asenteeni edistymistä kohtaan auttaisi esimerkiksi lihatehtaiden ankarissa olosuhteissa työskenteleviä ihmisiä. Vastasin, että tietysti tuotannon automatisoinnille löytyy aina paikka, jossa ihmisten työoloja on parannettava. Se on vain, että voit innovoida älykkäästi tai voit tehdä sen ajattelemattomasti; voimme löytää tavan ottaa huomioon inhimillisen kokemuksen arvo ja itsensä toteuttamisen merkitys, tai voimme yksinkertaisesti ylistää tietokoneiden kykyjä. Oikean valinnan tekeminen ei ole helppoa. Jos havaitsemme tämän tehtävän yksinomaan mustavalkoisena - joko puolustamme sokeasti kovaa, uuvuttavaa fyysistä työtä kaikissa tilanteissa tai päinvastoin näemme elämän tarkoituksen sybarismissa - tämä ei auta asiaa.

Vaikein ja poikkeuksellista tarkkuutta vaativa työ on parasta jättää koneille

Ihmiset luovat ja käyttävät jatkuvasti työkaluja. Ikimuistoisista ajoista lähtien meidän on tehtävä työnjakoon liittyviä päätöksiä työn määrän jakamisessa henkilön ja hänen käytössään olevien työkalujen kesken. Ja minusta näyttää siltä, että tietokoneiden hämmästyttävä tehokkuus monenlaisten tehtävien suorittamisessa vain vaikeuttaa tällaisten päätösten tekoa.

5. Mikä meitä odottaa?

T. Ch.: Onko ihmiskunta siis menossa kohti menestystä?

N. K.: Luonnonhistorian historioitsija Thomas Hughes, joka kuoli viime vuonna, ehdotti "teknologisen vauhdin" käsitettä. Hän uskoi, että yhteiskunnallisiin rakenteisiin ja prosesseihin upotetut teknologiat alkavat kehittyä itsestään ja vetävät yhteiskunnan mukanaan. On täysin mahdollista, että kehityskulkumme on jo asetettu ja jatkamme nykyisellä polullamme kysymättä, olemmeko menossa oikeaan suuntaan. En todellakaan tiedä mitä tapahtuu. Eniten voin yrittää järkeillä näitä todella vaikeita kysymyksiä parhaan kykyni mukaan.

Toivon, että me yksilöinä ja yhteiskunnan jäseninä pystymme säilyttämään tietyn tason ymmärryksen siitä, mitä meille tapahtuu, sekä tietyn tason uteliaisuutemme ja teemme päätöksiä pitkän aikavälin etujemme perusteella., eikä tavanomaisten mukavuus-, nopeus-, tarkkuus- ja tehokkuuskäsitystemme perusteella.

Päivä tulee, ja robotit vapauttavat meidät kaikista vaikeuksista. Tarvitsemmeko sitä?

Minusta tuntuu, että meidän on pyrittävä varmistamaan, että tietokoneet rikastuttavat elämänkokemustamme ja avaavat meille uusia mahdollisuuksia, eivätkä tee meistä passiivisia näyttöruutujen tarkkailijoita. Olen edelleen sitä mieltä, että jos saamme enemmän irti uusista teknologioista, ne pystyvät tekemään sen, mitä teknologia ja työkalut ovat tehneet läpi ihmiskunnan historian - luoda mielenkiintoisemman maailman ympärillemme ja auttaa meitä tulemaan itse paremmiksi. Loppujen lopuksi kaikki riippuu meistä itsestämme.