Meta zbudowała potężny nowy język AI i rozdaje go za darmo.
hejto.plLaboratorium AI firmy Meta stworzyło nowy model językowy, który posiada zarówno niezwykłe zdolności, jak i wady pionierskiej sieci neuronowej GPT-3 firmy OpenAI. W bezprecedensowym dla Big Tech posunięciu firma udostępnia go badaczom - wraz ze szczegółami dotyczącymi jego budowy i szkolenia.
"Mocno wierzymy, że możliwość sprawdzenia swojej pracy przez innych jest ważną częścią badań. Naprawdę zachęcamy do współpracy" - mówi Joelle Pineau, wieloletnia orędowniczka przejrzystości w rozwoju technologii, która obecnie pełni funkcję dyrektora zarządzającego w Meta AI.Posunięcie firmy Meta to pierwszy przypadek, gdy w pełni wytrenowany duży model językowy zostanie udostępniony każdemu naukowcowi, który zechce go zbadać. Wiadomość ta została przyjęta z zadowoleniem przez wielu zaniepokojonych sposobem, w jaki ta potężna technologia jest budowana przez małe zespoły za zamkniętymi drzwiami.
"Pochwalam przejrzystość" - mówi Emily M. Bender, lingwistka komputerowa z Uniwersytetu w Waszyngtonie i częsta krytyczka sposobu, w jaki opracowywane i wdrażane są modele językowe.
"To świetny ruch" - mówi Thomas Wolf, główny naukowiec w Hugging Face, startupie AI stojącym za BigScience, projektem, w ramach którego ponad 1000 wolontariuszy z całego świata współpracuje nad modelem językowym typu open-source. "Im więcej otwartych modeli, tym lepiej" - mówi.Duże modele językowe - potężne programy, które potrafią generować akapity tekstu i naśladować ludzką rozmowę - stały się jednym z najgorętszych trendów w sztucznej inteligencji w ciągu ostatnich kilku lat. Mają one jednak poważne wady - papugują błędne informacje, uprzedzenia i toksyczny język.
Teoretycznie, zaangażowanie większej liczby osób do pracy nad tym problemem powinno pomóc. Ponieważ jednak modele językowe wymagają ogromnych ilości danych i mocy obliczeniowej do ich wytrenowania, jak dotąd pozostają projektami dla bogatych firm technologicznych. Szersza społeczność naukowa, w tym etycy i badacze społeczni zaniepokojeni ich niewłaściwym wykorzystaniem, musiała przyglądać się temu z boku.
Więcej informacji w artykule https://www.technologyreview.com/2022/05/03/1051691/meta-ai-large-language-model-gpt3-ethics-huggingface-transparency/
Photo by Markus Spiske on Unsplash