Pofragmentowanie i zaizolowanie AI, zmuszenie jej do komunikacji przez bardzo wąskie otypowane i zrozumiałe przez człowieka API.
Nawet jeśli te przewężenia byłby ustalane przez AI, to byłyby w pełni wyjaśniane i opisane i stałe dla określonych zadań.
w ten sposób, uzyskamy bezpieczniejsze AI, które wiemy co robi, nie jest całkowitą czarną skrzynką, nie może robić co chce, jest ograniczone i określone.
Przykład z AI chwytającym, rozbitym na AI badające parametry chwytanego przedmiotu, oraz AI określające jak chwycić. Te dwa AI komunikują się wąskim otypowanym i zrozumiałym API, dzięki czemu jedno AI nie robi wszystkiego, oraz jest bardziej zrozumiałe co taki system wielu odrębnych AI robi.
Nadal nie znamy i nie rozumiemy algorytmów, ale wiemy co takie AI robi, jeśli poda błędne dane, które spowodują np. zgniecenie przedmiotu, to wiemy który parametr API był błędnie określony. Możemy rozbijać AI na drobniejsze kroki, aż człowiekowi to wystarczy do poczucia bezpieczeństwa.
UWAGA! #strumienmysli #rozkminydlazabawy #ai #sztucznainteligencja #artificialintelligence #machinelearning #uczeniemaszynowe #si
@jimmy_gonzale i poręczne. Ale też taka hybrydowa struktura neuronowo-algorytmiczna będzie chyba trochę bardziej skomplikowana w implementacji na hardware.
@dsol17 jestem totalnym laikiem w dziedzinie AI ale jako wyrobnik informatyk jestem wstanie trochę zrozumieć. Rozumiem koncept, zdefiniowanie API pomiędzy różnymi bytami AI. Taka mam rozkminę: Czy to nie ograniczy rozwoju tego konkretnego bytu(zbioru)?
Po drugiej stawiając właśnie "nieograniczone" AI, które "szybciej" i się nauczy, mając nieograniczony, lub mniej, dostęp do danych? Będzie, nie wiem, "sprytniejsze", szybciej pozna słabości przeciwnika. Ma to w ogóle sens? 🤔
@jimmy_gonzale No nie jestem też ekspertem - TYM BARDZIEJ nie jestem,bo nawet nie pracuję w IT ale rozumiem o co biega.
Po drugiej stawiając właśnie "nieograniczone" AI, które "szybciej" i się nauczy, mając nieograniczony, lub mniej, dostęp do danych?
OP pisze "pofragmentowane" (złe użycie tego słowa czy dobre ?). Czyli zamiast nieograniczonego AI @fewtoast proponuje - o ile dobrze rozumiem -moduły AI pospinane ze sobą w większy system przez ograniczone API. Coś jak zespół/zespoły wyspecjalizowanych ludzi w korpo zamiast łączącego wszystkie ich cechy "supermózgu". Zamiast wymiany informacji każdy z każdym - tylko formalnie za aprobatą "kierownika" którego rolę pełni API - w ściśle określonych sprawach.
Taka mam rozkminę: Czy to nie ograniczy rozwoju tego konkretnego bytu(zbioru)?
Tak,zgadza się bardzo ograniczy w kwestiach interdyscyplinarnych obcinając przepływ informacji i jej "zrozumienie" itp. Ale o to tu poniekąd chodzi.
@dsol17 thx
@jimmy_gonzale Tylko jeszcze ci tak dodam (sorry za poprawki do tego co pisałem powyżej by the way) jest problem
z tym podejściem. Problem polega na tym,że tak,teoretycznie można to porozdzielać za pomocą API ale to raczej przed trenowaniem sieci,to jest konieczne na etapie projektowym. Wytrenowanej sieci nie podzielisz już tym sposobem który podał OP na kawałki dla zrobienia jej diagnostyki - to nie jest raczej sposób na zrobienie AI "wiwisekcji".
Co najwyżej podsieć robiącą nie to co trzeba możesz od nowa przeprojektować podzielić na kilka mniejszych + API i robić kolejną iterację próby rozwiązania podproblemu. Daje to potencjalnie kontrolę,daje to potencjalnie rozwiązanie problemów ale pod względem kosztów to będzie dużo droższe niż trenowanie pojednynczego modelu AI a wyniki będą tu gorsze.
@dsol17 muszę to przemyśleć;) Dla mnie to nauka o czarnej dziurze. Totalnie olałem zrozumienie implementacji, uczenia, struktur AI. Za stary trochę się czuje.
@jimmy_gonzale Specyfika wdrażania to jest trudna,ale sieć neuronowa ma imitować ludzki układ nerwowy - tylko robi to dużo gorzej,to nie jest jakieś rocket science w kwestii zrozumienia podstaw jak to działa,to jest pamiętanie lekcji z biologii i historyjki o Iwanie Pawłowie i jego śliniących się psach.
No i trzeba coś kumać jak działa elektronika(ale bardzo mało,nie musisz umieć zlutowac nawet jednego obwodu)
Sieć neuronowa to jest po prostu rodzaj "samoprogramującego się w czasie rzeczywistym (cały czas - a w komputerach przez czas uczenia przynajmniej) bardzo złożonego obwodu/układu elektronicznego". Niby czegoś takiego "nie ma" w elektronice (no przynajmniej do odkrycia memrystorów nie było) ale to jest bardzo intuicyjne - nasze umysły na czymś nieco podobnym działają.
Zaprogramowanie AI na sieciach neuronowych - o to już nieco co innego nawet z odpowiednimi narzędziami,tu trzeba konkretniejszej wiedzy programistycznej.
Ale koncepcyjnie to neuron opiera się w uproszczeniu o tą zasadę co memrystor:
https://forumakademickie.pl/badania/memrystory-zamiast-synaps/
Podobnie jak neuron "sztuczna synapsa" w hardware opiera się na reakcjach chemicznych i odkładaniu się jonów.
W informatyce rozwiązano ten szczegół niematerialnie - "wagą" sygnału na połączeniach - ale ta waga jest odpowiednik oporu elektrycznego dla sygnału. Oczywiście sztuczne neurony mają jeden projekt,a normalnych neuronów w mózgu są różne rodzaje itd itp ale zasada po inżyniersku jest ta sama.
Największy problem z sieciami neuronowymi to to,że ta waga może sie zmieniać z czasem, i w przypadku sieci neuronowych komputerowych - masz ich przeuczenie,a w przypadku większości prostych memrystorów - największą wrażliwość masz nie po tej stronie osi czasowej co trzeba.
@fewtoast nic nie rozumiem, piorunek.
@fewtoast jest tylko jeden problem - Ty będziesz się bawił w rozbijanie AI na małe API a ktoś inny zrobi za 1/1000 Twojego budżetu pełne AGI i pozamiata
@StepujacyBudowlaniec o, chyba o to mi chodziło.
Zaloguj się aby komentować