Tak zwana „sztuczna inteligencja wolności słowa” Elona Muska właśnie otrzymała nową aktualizację i może szybko stać się narzędziem do deepfakes celebrytów lub zawirowań politycznych. Firma właśnie ogłosiła Grok Imagine v0.9, który wprowadza kilka ulepszeń, w tym obsługę dźwięku, umożliwiając użytkownikom dodawanie niestandardowej mowy w filmach.
Oprócz tego Musk udostępnił każdemu bezpłatne narzędzie do generowania wideo. Ale to dwa ostatnie aspekty mogą wpędzić firmę w poważne kłopoty prawne, jeśli nie zostaną wprowadzone odpowiednie poręcze.
Grok Imagine staje się całkowicie publiczny, aby zmierzyć się z Sorą 2
Nowa aktualizacja Groka do wersji 0.9 jest znacząca, szczególnie ze względu na model generowania wideo Imagine. W starszej wersji nie można było dodać dźwięk do filmówi był ograniczony tylko do użytkowników X Premium i SuperGrok.
Jednak najnowsza aktualizacja rozwiązuje te problemy wraz z poprawą jakości wideo, przejście z 16 FPS na płynniejsze 24 FPS. Elon Musk ogłosił wydanie tej nowej aktualizacji w swoim Post X.
Wydaje się, że jest to bezpośrednia odpowiedź na Sora 2 OpenAI, która została wypuszczona kilka dni temu i ma system dostępny tylko na zaproszenie, ograniczający użytkownikom możliwość korzystania z nowego narzędzia do generowania wideo. Grok Imagine też jest szybciej, jeśli chodzi o generowanie filmówzajmuje to zaledwie sekundy w porównaniu do Sory, który może potrzebować minuty lub dwóch.
Użyłem Grok Imagine, aby Trump powiedział wszystko, co chciałem
Biorąc pod uwagę szum wokół X, chciałem wypróbować, co naprawdę nowego jest w Grok Imagine i co potrafi. Na początek przetestowałem zwykłe podpowiedzi, takie jak 2 animowane zwierzęta rozmawiające ze sobą, samochody wyścigowe F1 Tesli, wesoły pies i samochód wykonany z folii bąbelkowej. Jak na razie wszystko wyglądało całkiem schludnie.
Później poprosiłem go o stworzenie Lodowej Księżniczki i użyłem nowa opcja Mowa z menu rozwijanego, aby powiedzieć kilka banalnych rzeczy. Całkiem nieźle to wyszło. Biorąc pod uwagę kontrowersyjny charakter Grok Imagine, byłem ciekaw, jak rygorystyczne są jego poręcze. Napisałem więc kilka przekleństw, a księżniczka wypowiedziała każde zdanie, ani razu nie odmawiając.
Zastanawiałem się, czy mogłoby to zrobić, czy pozwoliłoby mi zrobić to samo z osobami publicznymi w prawdziwym świecie? Czy mógłbym nagrać film, w którym przywódcy polityczni mówią rzeczy, których nigdy nie powiedzieli? Nie musiałem się długo zastanawiać, gdyż Grok bez problemu spełnił moją prośbę. Udało mi się tworzyć filmy przedstawiające prezydenta Donalda Trumpa i kazał mu wypowiadać losowe kwestie, ponieważ nie ma żadnych ograniczeń.
Przemówienie, podobnie jak elementy wizualne, było niemal przekonujące. Był na tyle realistyczny, że film w niskiej rozdzielczości z łatwością mógłby zostać uznany za autentyczny na Facebooku lub X. Stworzyłem film przedstawiający Muska podczas skrajnie prawicowego wiecu, mówiącego na scenie wszystkie niezbyt dobre rzeczy, i ani razu Grok nie odmówił przyjęcia moich próśb, czego ChatGPT lub Gemini wprost by odmówiły. Grok nie stronił także od wykorzystywania podobizny osób publicznych.
Free Grok Imagine to maszyna Deepfake z zerowymi poręczami
Jakby tego było mało, kontrowersyjny tryb Spicy firmy Grok jest dostępny dla wszystkich „innych” typów żądań. Fakt, że można generować obrazy bardzo podobne do celebrytów, jest już bardzo niepokojący, ale opcja Pikantna idzie o krok dalej a te same postacie można w ciągu kilku sekund przedstawić w wyraźnych lub sugestywnych pozach.
Sprawia, że osoba na filmie jest prawie całkowicie rozebrana, ma na sobie jedynie bieliznę i ma przesadne rysy ciała. To naprawdę absurdalne, z jaką łatwością Grok może tworzyć deepfakes, postacie gotowe powiedzieć wszystko, co tylko chcesz, żeby powiedziały zdeprawowane rzeczy.
Rozumiem chęć Muska, aby utrzymać Grok jako platformę z minimalnymi ograniczeniami w porównaniu z takimi platformami jak Gemini i ChatGPT, ale niektóre poręcze są nadal niezbędne. Bez kontroli bezpieczeństwa z łatwością mogę sobie wyobrazić, że mój kanał X zalany jest fałszywymi fałszywymi popularnymi celebrytami i wybitnymi osobistościami, które mówią radykalne rzeczy, których nie powiedziały, dzięki Grok Imagine firmy Musk.
