A quina distància estem de la intel·ligència artificial general

Jul 18, 2024 Deixa un missatge

Avui dia, la Intel·ligència General Artificial (AGI) s'ha convertit en una paraula clau central tant a la comunitat científica com a la industrial. Fa només uns anys, molts creien que aconseguir l'AGI trigaria almenys entre 10 i 50 anys, o fins i tot pensaven que era impossible. Avui dia, aquestes opinions pessimistes són rares. Tanmateix, en comparació amb l'entusiasme del públic per aquesta onada de canvis tecnològics, molts estudiosos de primera línia i líders de la indústria en el camp de la IA creuen que encara queda molt camí per recórrer perquè la IA actual es converteixi en AGI.

 

Segons Qi Yuan, un distingit professor de la Universitat de Fudan, director de l'Institut de Recerca en Intel·ligència Artificial de Xangai (SAIRI) i fundador de l'empresa Trustworthy Large Model "Infinite Lightyear", "Una de les manifestacions més altes de l'AGI és el descobriment d'un desconegut. les lleis del món complex, en poques paraules, hauria de ser un "AI Einstein". Això ens requereix crear grans models fiables de "caixa gris" que combinin prediccions probabilístiques de "caixa negra" amb raonaments lògics de "caixa blanca" i promoure la investigació fonamental, el cultiu de talent i les aplicacions pràctiques mitjançant la integració profunda de la tecnologia i la indústria construir un ecosistema innovador per a la intel·ligència científica".

 

A la recent Conferència Mundial d'Intel·ligència Artificial (WAIC) de 2024 i a la Reunió d'Alt Nivell sobre Governança Global de la Intel·ligència Artificial, SAIRI va acollir amb èxit un fòrum temàtic titulat "Intel·ligència Artificial: Canvi de paradigma en recerca científica i desenvolupament industrial". Aquesta va ser la primera aparició d'aquesta nova institució de recerca a WAIC. SAIRI es pot veure com un model per a l'exploració de Xangai d'un ecosistema d'intel·ligència científica "1+1+N" impulsat per la innovació. Aquest model implica SAIRI com a centre central responsable de la planificació estratègica global, la integració de recursos i la recerca i innovació tecnològica clau, en col·laboració amb una altra Universitat de Fudan "1" i diverses universitats "N", institucions de recerca, empreses tecnològiques, equips d'innovació, i institucions d'inversió, per promoure conjuntament la investigació científica, el cultiu de talent, la transferència de tecnologia i la innovació i millora industrial.

 

L'estàndard per a AGI hauria de ser crear un "AI Einstein".

 

Des d'una perspectiva tècnica, els models cada cop més grans i amb més paràmetres conduiran a AGI? Fins ara, ni des de la perspectiva de la pròpia tecnologia d'IA ni des de la perspectiva del consum d'energia, els grans models basats en l'arquitectura autoregressiva Transformer són suficients per conduir a AGI. La IA ha de desenvolupar nous models grans i fiables de "caixa grisa". Aquesta conclusió es basa en els anys d'experiència pràctica de Qi Yuan tant a l'àmbit acadèmic com a la indústria.

 

Fa deu anys, amb la idea de "fer que la IA sigui útil", Qi Yuan va dirigir un equip per augmentar el sistema bàsic d'aprenentatge automàtic d'Alibaba de 2 milions de paràmetres a diversos centenars de milions de paràmetres per primera vegada, aconseguint una millora significativa en el rendiment empresarial i demostrant la transformació integrada de dades, algorismes i capacitats d'enginyeria. Aquesta és precisament la manifestació de la Llei d'escala, que avui es parla àmpliament a la comunitat d'IA.

 

Qi Yuan recorda que l'equip sí que va provar la dolçor de la Llei d'escala: després d'augmentar els paràmetres del model cent vegades, l'efecte global va millorar dràsticament. "Però ara penso: per què no vam fer models d'IA encara més grans aleshores? Per què ens vam aturar quan podríem haver fet un pas més?" va dir. "Fins i tot milers de milions de paràmetres en grans models no són suficients; hem d'avançar cap a centenars de milers de milions, bilions, o fins i tot més. En aquell moment, tant l'acadèmia com la indústria no tenien la potència de càlcul, i fins i tot en el sector industrial, aconseguint tan alts La potència de càlcul requeria costos molt elevats, per no parlar de l'acadèmia".

 

La raó per la qual l'estàndard per a AGI hauria de ser crear un "AI Einstein", explica Qi Yuan, és que ha de ser eficaç i intel·ligent. En primer lloc, Einstein va descobrir els "núvols de la física de principis del segle XX" a través d'uns quants punts de dades clau. AGI també hauria de ser capaç de descobrir i entendre les lleis desconegudes del món complex. Tanmateix, els grans models actuals no poden aconseguir-ho. Per exemple, tot i que el gran model visual SORA simula el món físic en un grau sense precedents, encara construeix el món tridimensional basat en la simulació del món bidimensional i està lluny d'entendre a fons el món físic. En segon lloc, hi ha la qüestió del consum d'energia. El cervell humà funciona a uns 15 watts, mentre que una única GPU pot arribar a un màxim de diversos centenars de watts, sense oblidar els grups de milers o desenes de milers de GPU necessàries per entrenar grans models generals. En l'actualitat, si continuem utilitzant arquitectures existents, el consum d'energia requerit seria astronòmic, dificultant l'assoliment de l'objectiu de ser efectiu i intel·ligent.

 

L'"AI Einstein" també és un objectiu clau de AI for Science (AI4S). La intel·ligència científica ha jugat un paper important en l'acceleració de la solució d'equacions físiques conegudes, però també ha de combinar regles conegudes amb dades per reduir la dependència severa de les dades i la potència de càlcul, millorar la precisió del raonament i la predicció i proposar noves teories científiques. basat en regles de coneixement ajustades a les dades. Això s'alinea amb l'objectiu a llarg termini de Qi Yuan a la Universitat de Fudan i SAIRI: utilitzar la intel·ligència artificial per entendre el món complex i descobrir lleis desconegudes.

 

Els models grans de domini vertical de confiança "caixa grisa" donen poder a diverses indústries.

 

Quins problemes s'han de resoldre perquè els grans models es converteixin en noves forces productives a partir de les eines d'IA? Segons Qi Yuan, la indústria dels grans models s'enfronta a molts reptes comuns, cosa que dificulta que la tecnologia, els productes i les necessitats del mercat s'alinein.

 

"El problema més gran amb la implementació de models grans avui dia és que sembla útil a primera vista, però falla en l'ús pràctic", explica Qi Yuan. Els grans models lingüístics actuals prediuen principalment la paraula següent a partir de múltiples paraules anteriors, però aquest enfocament no és adequat per a un raonament rigorós de diversos passos. "El llenguatge és una eina de comunicació, no de pensament". Recentment, un article publicat per institucions com el MIT a la principal revista acadèmicaNaturava assenyalar que el llenguatge és una eina poderosa per transmetre coneixements culturals i que pot haver coevolucionat amb les nostres capacitats de pensament i raonament, reflectint la complexitat de la cognició humana. Tanmateix, el llenguatge no genera la complexitat del raonament.

 

Per abordar la falta de fiabilitat, la baixa interpretabilitat i els alts costos dels grans models existents, una solució eficaç és combinar el raonament probabilístic de xarxes neuronals amb la computació simbòlica lògica, semblant a la combinació del pensament ràpid basat en l'instint i el pensament lent basat en el raonament lògic descrit a Llibre del premi Nobel Daniel KahnemanPensant, ràpid i lent. "Això es pot anomenar un model gran de 'caixa gris'", creu Qi Yuan. La combinació de la computació simbòlica amb xarxes neuronals en un model gran de confiança de "caixa gris" pot reduir les "al·lucinacions" de la IA i resoldre problemes professionals en camps verticals, potenciant així diverses indústries i alliberant la productivitat dels grans models.

 

Què és un model gran de confiança "caixa gris"? "Originalment, l'aprenentatge profund es considerava una" caixa negra ". Ara, combinant el raonament lògic amb l'aprenentatge profund, tenim una "caixa grisa"", explica Qi Yuan. "La 'caixa negra' original va deixar que la gent desconeixia el procés pel qual les dades produïen resultats, mentre que el gran model de la 'caixa gris', ajudat per un raonament lògic, permet a la gent 'conéixer tant els resultats com les raons darrere'. Des d'una altra perspectiva, els models grans de "caixa grisa" poden utilitzar l'aprenentatge profund per reduir les regles que no s'ajusten a les dades observades del món real".

 

Qi Yuan afirma que perquè la IA tingui un paper fonamental en escenaris complexos de diverses indústries, ja sigui en finances i assegurances, energia eòlica i energia, o transport marítim i camps farmacèutics, és necessari combinar el coneixement sistemàtic de la indústria, la lògica de raonament i la decisió. -confecció de mecanismes amb grans models. El model gran de la "caixa grisa" no només és la direcció per a AGI, sinó també una eina poderosa per penetrar profundament en camps verticals i resoldre realment problemes del món real. "Des d'una perspectiva industrial, aquesta comprensió és molt intuïtiva", il·lustra Qi Yuan. Els metges no necessiten convertir-se en advocats, ni els advocats han de convertir-se en experts en inversions. Cada rol professional ha de centrar-se en el seu camp i millorar les seves eines de productivitat. Des del punt de vista tècnic, si un model gran aprèn en excés tasques irrellevants, pot experimentar un "oblit catastròfic". Per exemple, si Li Bai passa tot el seu temps fent comptabilitat en lloc d'escriure poesia, la seva inspiració poètica podria desaparèixer gradualment. "Ja hem observat que quan s'entrenen models grans per a dominis verticals, si el model aprèn massa funcions no relacionades, pot interferir amb les seves capacitats originals. Per tant, desenvolupar models grans de 'caixa grisa' eficaços per a dominis verticals és de gran valor en l'àmbit industrial. implementació".

 

"Crec que els grans models de 'caixa gris' tindran un paper cada cop més important en el camí cap a l'AGI i en la implementació d'indústries de domini vertical. Des d'una perspectiva metodològica bayesiana, combina el nostre coneixement conegut amb la informació oculta a les dades per descobrir noves lleis. i resoldre problemes científics i industrials", afirma Qi Yuan. En el futur, "AI Einstein" també podria ser "AI Buffett".

Connectar la cadena d'innovació i construir un ecosistema d'innovació en intel·ligència científica.

 

A la Conferència Mundial d'Intel·ligència Artificial d'aquest any, l'equip de Qi Yuan va llançar grans models financers i mèdics fiables amb centenars de milers de milions de paràmetres. Aquests grans models de domini vertical van superar el model GPT-4 Turbo de bilions de paràmetres d'OpenAI a les proves, i va tornar a cridar l'atenció del sector sobre la implementació de models grans.

 

"Els avenços d'avui en IA estan impulsats no només per innovacions en principis subjacents, sinó també per enfocaments basats en productes que aborden les necessitats de la societat. La societat requereix no només la publicació de documents teòrics o innovacions de models de negoci, sinó també la integració profunda de les innovacions tecnològiques i industrials basades en primers principis Un cop es combinen aquests dos elements, podem arribar a aigües més blaves", diu Qi Yuan.

 

L'acadèmia i la indústria tenen missions diferents. L'acadèmia explora nous fenòmens, mentre que la indústria resol principalment problemes pràctics. Un problema comú a tot el món és que les institucions de recerca han d'abordar molts problemes d'innovació tecnològica, però si passen per alt la productivitat i les necessitats socials, s'enfronten a dues deficiències: la manca de pressió competitiva real, que dificulta el perfeccionament de tecnologies innovadores, i l'absència de tecnologies efectives. feedback del mercat per guiar la investigació tecnològica.

 

Amb aquesta finalitat, Qi Yuan fa temps que intenta connectar la cadena d'innovació de "universitats-instituts de recerca-startups" per crear un bon ecosistema d'innovació que tingui en compte tant la tecnologia subjacent com les necessitats del mercat. La direcció del producte s'ha de guiar per la demanda i els escenaris del mercat, construint la competitivitat bàsica del producte mitjançant la innovació fonamental.

 

Fundada el 2023, SAIRI està compromesa amb les innovacions originals d'IA per a la ciència que combinen coneixement i dades. Recentment, SAIRI va llançar la sèrie Fuxi de grans models meteorològics 2.0 per a aplicacions en noves energies, assegurances, gestió urbana i va iniciar l'Aliança d'Ecosistemes d'Innovació Meteorològica Intel·ligent. Aquesta aliança pretén impulsar progressivament l'aplicació industrial dels grans models meteorològics de la sèrie Fuxi 2.0. Els models grans de confiança de la "caixa grisa" també estan progressant en la implementació del producte, amb Infinite Lightyear, l'empresa de grans models de confiança fundada per Qi Yuan, ja establerta.

 

Per promoure encara més l'ecosistema d'innovació en intel·ligència científica, el segon Concurs Mundial d'Intel·ligència Científica, organitzat conjuntament per SAIRI i la Universitat Fudan, i guiat per diversos departaments, com ara el Comitè de Ciència i Tecnologia de Xangai, la Comissió de Desenvolupament i Reforma de Xangai, el Comitè de Tecnologia de la Informació i Econòmica de Xangai, i el Comitè d'Educació de Xangai, s'ha posat en marxa. El concurs ofereix milions de premis per reclutar participants globals per explorar camps fronterers de la intel·ligència científica. A més, SAIRI ha desenvolupat una plataforma de dades científiques que cobreix dades científiques multimodals, que dóna suport a tota la cadena, des de la recollida i processament de dades fins a la gestió i la modelització, assegurant un processament de dades eficient, la fiabilitat i la comunicació segura. A partir d'aquesta plataforma, SAIRI i els seus socis han creat diversos conjunts de dades científiques d'alta qualitat per a ciències de la vida, ciències dels materials, ciències de l'atmosfera i altres camps, proporcionant recursos valuosos per a la investigació en intel·ligència científica. A més, SAIRI ha iniciat la Global Scientific Data Ecosystem Alliance, amb membres inicials que inclouen China Telecom Corporation, COSCO Shipping Insurance Captive, Shanghai Lingang New Area Cross-Border Data Technology i més de deu entitats més. L'aliança té com a objectiu construir una plataforma de recursos de grans dades de recerca global i multidomini oberta i compartida mitjançant la col·laboració entre governs, empreses, universitats i institucions de recerca.

 

"Ja sigui en investigació científica o en la indústria, no hem d'innovar pel bé de la innovació. Esperem construir futurs AGI i aplicacions que resolguin problemes del món real", diu Qi Yuan.

Enviar la consulta

whatsapp

Telèfon

Correu electrònic

Investigació