Digi
alle pijlers
Deepfakes en AI.. leuk maar ook heel gevaarlijk
woensdag 28 februari 2024 om 21:53
Ik kreeg vandaag in mijn Youtube aanbevolen een filmpje van een Oekraïense vrouw die misbruikt wordt voor propaganda. Het is niet eens een een bekend persoon maar een hele kleine Youtuber die af en toe foto's en filmpjes post van zichzelf:
https://youtu.be/3FQSFnZpsqw?si=sayalxpDckkh5BtS
Ik wist natuurlijk al wel dat foto's en filmpjes gemanipuleerd worden. Mensen of een wraakzuchtige ex niet een foto plakt van een bekendheid of ex vriendin op een pornoactrice of dat kerst filmpje van Mark Rutte, Hugo de Jonge of dat andere neppe filmpje van Queen Elizabeth etc.
Maar toen ik de video van die vrouw zag kwam het pas echt binnen dat het echt iedereen kan overkomen en je er wellicht nooit achter komt. Ook al plaats je niks bijzonders of ben je niet bekend, maar een iemand hoeft te denken van hey laat ik die beeltenis misbruiken en hoppa. Ik vraag me ook af hoe je zoiets zou moeten aanpakken als het je overkomt, helemaal als het in een ander land gebeurd.
Wat vinden jullie hiervan?
https://youtu.be/3FQSFnZpsqw?si=sayalxpDckkh5BtS
Ik wist natuurlijk al wel dat foto's en filmpjes gemanipuleerd worden. Mensen of een wraakzuchtige ex niet een foto plakt van een bekendheid of ex vriendin op een pornoactrice of dat kerst filmpje van Mark Rutte, Hugo de Jonge of dat andere neppe filmpje van Queen Elizabeth etc.
Maar toen ik de video van die vrouw zag kwam het pas echt binnen dat het echt iedereen kan overkomen en je er wellicht nooit achter komt. Ook al plaats je niks bijzonders of ben je niet bekend, maar een iemand hoeft te denken van hey laat ik die beeltenis misbruiken en hoppa. Ik vraag me ook af hoe je zoiets zou moeten aanpakken als het je overkomt, helemaal als het in een ander land gebeurd.
Wat vinden jullie hiervan?
woensdag 28 februari 2024 om 22:21
De Oekraïense vrouw heeft waarschijnlijk het filmpje gemaakt om het probleem aan te kaarten en meer onder de aandacht te brengen, Ze laat filmpjes zien waarbij haar beeltenis is misbruikt en verteld hoe ze zich er bij voelt.
woensdag 28 februari 2024 om 22:23
Aaah oké! Ik had geen idee wat ik kon verwachten van je link dus daarom er voor de zekerheid niet op geklikt.
Wat betreft je vraag: het is heel eng en bijvoorbeeld een reden dat ik nooit foto’s van mijn kinderen online zet. De kans dat er iets mee gebeurt is natuurlijk nihil, maar het kan wel. En dat vind ik beangstigend. Vanuit die bewuste keuze ben ik er dus wel mee bezig dat het kan, maar verder in mijn dagelijks leven denk ik er niet echt over na.
woensdag 28 februari 2024 om 22:36
Ik plaats ook bewust geen foto's van mezelf op social media tenzij ik het zo in kan stellen dat alleen familie en vrienden het kunnen zien. Gelukkig plaatsen vrienden en familie ook niet ongevraagd foto's waar ik op sta online. Heb mezelf wel ooit op een foto gezien bij een evenement waar ik bij was maar dat is voor een onbekende natuurlijk niet echt te linken aan mij en gelukkig was het heel klein.
En dit filmpje bevestigde maar weer eens dat het een hele goede keuze is want ik moet er niet aan denken dat het mij overkomt.
En dit filmpje bevestigde maar weer eens dat het een hele goede keuze is want ik moet er niet aan denken dat het mij overkomt.
woensdag 28 februari 2024 om 22:37
Ik vind het heel beangstigend. Hier zijn deepfake-naaktfoto's van Bekende Vlamingen verspreid en één van de slachtoffers vertelde dat ze in eerste instantie dacht dat het een echte foto was. Zo goed zijn ze ...
Ik ben bang dat het een kwestie van tijd is voor deepfakes worden ingezet om mensen te treiteren en mentaal kapot te maken.
Ze kunnen je beelden laten zien over 'jezelf' of je geliefden die je nooit meer uit je hoofd krijgt.
Ook ben ik bang voor het politiek inzetten (misbruiken) van deepfakes, om conflicten of oorlogen te ontketenen.
We worden ons stilaan wel bewust van het gevaar maar het zal nog even duren voor we ons het echt eigen hebben gemaakt om een beeld niet te vertrouwen tot het tegendeel bewezen is.
Want daar zal het op moeten uitdraaien.
Ik ben bang dat het een kwestie van tijd is voor deepfakes worden ingezet om mensen te treiteren en mentaal kapot te maken.
Ze kunnen je beelden laten zien over 'jezelf' of je geliefden die je nooit meer uit je hoofd krijgt.
Ook ben ik bang voor het politiek inzetten (misbruiken) van deepfakes, om conflicten of oorlogen te ontketenen.
We worden ons stilaan wel bewust van het gevaar maar het zal nog even duren voor we ons het echt eigen hebben gemaakt om een beeld niet te vertrouwen tot het tegendeel bewezen is.
Want daar zal het op moeten uitdraaien.
donderdag 29 februari 2024 om 07:37
Met photoshop kon je toch ook al fake naaktfoto's maken?
Het lijkt mij redelijk makkelijk op te lossen. Wat je nodig hebt is iets dat kan detecteren of het om gemanipuleerde content gaat:
https://tech.hindustantimes.com/tech/ne ... mPbSM.html
En dat er dan automatisch een soort waarschuwing op de foto of video verschijnt.
Het lijkt mij redelijk makkelijk op te lossen. Wat je nodig hebt is iets dat kan detecteren of het om gemanipuleerde content gaat:
https://tech.hindustantimes.com/tech/ne ... mPbSM.html
En dat er dan automatisch een soort waarschuwing op de foto of video verschijnt.
donderdag 29 februari 2024 om 08:53
Graze schreef: ↑28-02-2024 22:36Ik plaats ook bewust geen foto's van mezelf op social media tenzij ik het zo in kan stellen dat alleen familie en vrienden het kunnen zien. Gelukkig plaatsen vrienden en familie ook niet ongevraagd foto's waar ik op sta online. Heb mezelf wel ooit op een foto gezien bij een evenement waar ik bij was maar dat is voor een onbekende natuurlijk niet echt te linken aan mij en gelukkig was het heel klein.
En dit filmpje bevestigde maar weer eens dat het een hele goede keuze is want ik moet er niet aan denken dat het mij overkomt.
Dat is natuurlijk schijnveiligheid.
Ik vind het altijd bijzonder dat mensen denken privacy te kunnen houden terwijl ze smartphones en apps gebruiken.
Dat heb je al opgegeven het moment dat je een google-account aanmaakte.
Ik vind dat niet erg maar ik heb niet de illusie dat ik nog enig recht op privacy kan claimen.
I wanna live my life with the volume full!
donderdag 29 februari 2024 om 09:47
Dit dus. En dat zal echt een mindhsift vergen, want we zijn geneigd onze ogen te vertrouwen..
donderdag 29 februari 2024 om 10:11
Ja, maar de bad guys zitten daarna ook niet stil en al gauw zullen er video's verschijnen waarbij het veel moeilijker is om de echte herkomst te achterhalen. Het is een wedloop.Suppenhuhn schreef: ↑29-02-2024 07:37Met photoshop kon je toch ook al fake naaktfoto's maken?
Het lijkt mij redelijk makkelijk op te lossen. Wat je nodig hebt is iets dat kan detecteren of het om gemanipuleerde content gaat:
https://tech.hindustantimes.com/tech/ne ... mPbSM.html
En dat er dan automatisch een soort waarschuwing op de foto of video verschijnt.
Dan moet het maar zoals het kan
donderdag 29 februari 2024 om 10:21
donderdag 29 februari 2024 om 10:40
Het is zeker gevaarlijk. Denk ook bijvoorbeeld aan het opnemen van je stemgeluid aan de telefoon, of een opname van een Teamsmeeting van je werk.
Alleen al bijvoorbeeld de Whatsapp-fraude ('Papa, ik heb een nieuw nummer! Oh en kun je meteen wat geld overmaken?'), die wordt binnen no-time gebruikt met een telefoontje (of zelfs facetime) ipv Whatsapp.
Ik vind echt dat mensen te onvoorzichtig zijn, vooral met bewegend beeld.
Maar ook van die apps waar je leuke AI afbeeldingen van jezelf kan maken, of een filter kan plaatsen oid. Je weet niet wie er achter de app zit maar iedereen upload maar los omdat het 'leuk' is.
Alleen al bijvoorbeeld de Whatsapp-fraude ('Papa, ik heb een nieuw nummer! Oh en kun je meteen wat geld overmaken?'), die wordt binnen no-time gebruikt met een telefoontje (of zelfs facetime) ipv Whatsapp.
Ik vind echt dat mensen te onvoorzichtig zijn, vooral met bewegend beeld.
Maar ook van die apps waar je leuke AI afbeeldingen van jezelf kan maken, of een filter kan plaatsen oid. Je weet niet wie er achter de app zit maar iedereen upload maar los omdat het 'leuk' is.
donderdag 29 februari 2024 om 11:18
Ik hoorde onlangs van een geval van fraude waarbij iemand deelnam aan (dacht hij) een online meeting met werkgever. Waarbij hij een opdracht kreeg om een financiële transactie te doen. Was deepfake.
Er zijn ook al gevallen bekend waarbij mensen een fakespraakbericht kregen van werkgever of partner. Een paar seconden geluidsfragment volstaan blijkbaar om iemands stem perfect na te maken.
Ik vind het allemaal zeer akelig.
Photoshop is van een totaal andere orde. Deepfake ziet er niet van echt te onderscheiden uit.
Er zijn ook al gevallen bekend waarbij mensen een fakespraakbericht kregen van werkgever of partner. Een paar seconden geluidsfragment volstaan blijkbaar om iemands stem perfect na te maken.
Ik vind het allemaal zeer akelig.
Photoshop is van een totaal andere orde. Deepfake ziet er niet van echt te onderscheiden uit.
donderdag 29 februari 2024 om 12:12
Misschien ook een kwestie van ervaring?
Speciale effecten en CGI uit oude films leken toen bijna echt en nu zien we duidelijk dat het nep is. Je wordt er waarschijnlijk ook beter in.
Als klagen telde als werk, dan had mijn ex zich ook moeiteloos een Mercedes kunnen veroorloven.
donderdag 29 februari 2024 om 12:15
De huidige technieken zijn zo geavanceerd dat deepfake niet van echt te onderscheiden is.
donderdag 29 februari 2024 om 12:35
Het is zeker gevaarlijk. En er kan steeds meer. Ik las laatst al een bericht van iemand die een telefoontje van haar zoon kreeg met de vraag om geld over te maken. Die (volwassen) zoon klonk echt precies hetzelfde. Gelukkig kwam hij ergens tijdens het gesprek binnenlopen, anders had ze het zeker geloofd.
En dat soort dingen zijn nog maar het begin. Echt heel beangstigend.
En dat soort dingen zijn nog maar het begin. Echt heel beangstigend.
maandag 4 maart 2024 om 15:00
AI is een omwenteling die te vergelijken is met de industriële revolutie. Voor de vooruitgang in onder meer de medische wereld een godsgeschenk.
Maar ik weet niet of 'onze' generatie daar nog aan gaat wennen, aan het idee dat je bewegend beeld niet mag vertrouwen. Dat als je een Teamscall van je leidinggevende aanklikt en die je opdraagt dit of dat te doen, dat dat deepfake kan zijn.
Om nog maar te zwijgen van de mogelijkheden tot pestgedrag voor gestoorde geesten. Waarbij gewone naaktfoto's verspreiden klein bier zal lijken.
We zijn er als maatschappij absoluut nog niet klaar voor (wetgeving, opvoeding ...).
maandag 4 maart 2024 om 16:33
Dat hangt volgens mij van de job afOude_Man_2 schreef: ↑04-03-2024 15:28Als je, zonder AI, vanwege een mondelinge opdracht van je leidinggevende 100K naar een onbekende rekening overboekt ben je al een nonvaleur zonder deepfake hoor.
Maar het gaat om het principe. Een teamsmeeting kan worden gedeepfaket. Ik ben niet creatief genoeg (of crimineel genoeg) om daar opportuniteiten in te zien maar die zijn er vast wel.
maandag 4 maart 2024 om 18:13
Nee, dat hangt niet van de job af. Dat hangt af van de kwaliteit van de interne beheersing van de organisatie. Een organisatie die dergelijke betalingen toestaat is ook extreem kwetsbaar voor fraude zonder deep fake.
Om te kunnen reageren moet je ingelogd zijn
Al een account? Log dan hier in
