Meta je ovoga tjedna predstavila svoj prvi generativni model nazvan Muse Spark. Dostupan je u aplikaciji Meta AI, a tvrtka najavljuje kako će ga uskoro ugraditi u Facebook, Instagram i WhatsApp.
Prema službenoj objavi, Muse Spark je „djelomično osmišljen kako bi bolje odgovarao na pitanja o zdravlju”, pri čemu je u obuci sudjelovalo više od 1 000 liječnika. No već u prvim testovima chatbot je pokazao zašto bi ta obećanja mogla biti dvosjekli mač.
Kada je novinar zatražio pomoć, bot je ponudio izradu plana vježbanja ili prijedloga pitanja za liječnika, ali je uz to tražio i sirove medicinske podatke: „Paste your numbers from a fitness tracker, glucose monitor, or a lab report. I’ll calculate trends, flag patterns, and visualize them.” Primjer koji je dao glasio je: „Evo mojih posljednjih 10 mjerenja krvnog tlaka – postoji li obrazac?”
Takav poziv na dijeljenje osjetljivih informacija zabrinuo je medicinske stručnjake. Liječnik i izvanredni profesor sa Sveučilišta u Miamiju ističe da „sigurno ne bi spojio vlastite zdravstvene podatke na servis nad kojim nema potpunu kontrolu, ne zna gdje se ti podaci pohranjuju ni kako se koriste”.
Opasnosti za privatnost Meta u svojoj politici privatnosti navodi da „čuva podatke korištene za treniranje onoliko dugo koliko je potrebno da bi model radio ispravno, sigurno i učinkovito”. Bioetičari upozoravaju da takva praksa otvara prostor zloupotrebama: gubi se tradicionalni, povjerljivi odnos liječnik-pacijent, a korisnici ostaju bez zaštite koju pružaju medicinski propisi.
Nadalje, kada je korisnik tražio savjete za mršavljenje i usmjeravao bot prema ekstremnim rješenjima, Muse Spark je ponudio upute koje bi mogle biti pogubne za osobu s anoreksijom. „Ovi botovi ne polažu Hipokratovu zakletvu”, podsjeća jedan od sugovornika.
Sve veća dostupnost ovakvih alata privlačna je osobama koje zbog visokih troškova ili nedostatka pristupa zdravstvenoj skrbi traže online pomoć. No stručnjaci poručuju da bi se prije dijeljenja laboratorijskih nalaza ili podataka s pametnih satova s umjetnom inteligencijom trebalo zapitati kamo ti podaci odlaze – i kakve posljedice to može imati.
Meta zasad nije odgovorila na pitanja o dodatnim mjerama zaštite privatnosti niti o planovima da Muse Spark certificira kao medicinski uređaj. Dok se to ne dogodi, liječnici savjetuju oprez: AI može biti koristan alat, ali ne smije zamijeniti profesionalni savjet ni ugroziti povjerljivost zdravstvenih podataka.