Googles nye kunstige intelligensmodel PaliGemma 2 kan identificere følelser, men eksperter er bekymrede over den
Google har annonceret en ny model for kunstig intelligens, PaliGemma 2, som kan genkende følelser i billeder.
Her er, hvad vi ved
Denne model analyserer fotos og skaber detaljerede beskrivelser, herunder handlinger, følelser og den overordnede kontekst for scenen. Eksperter er dog bekymrede over de mulige konsekvenser af at bruge sådan en teknologi. De mener, at det er en udfordring at genkende følelser, fordi folk udtrykker deres følelser forskelligt afhængigt af den kulturelle og personlige kontekst.
Nogle undersøgelser viser, at følelsesgenkendelsessystemer kan være upålidelige og forudindtagede. Google hævder at have gennemført omfattende tests for at vurdere demografisk bias i PaliGemma 2 og fundet lave niveauer af giftighed og bandeord sammenlignet med industristandarder.
Virksomheden afslørede dog ikke den fulde liste over anvendte benchmarks eller de udførte testtyper. Eksperter advarer om, at brugen af sådanne teknologier kan føre til diskrimination og andre negative konsekvenser.
Kilde: techcrunch
