Guider la révolution AGI dans une direction bénéfique par Ben Goertzel, PDG, SingularityNET et TrueAGI -Beneficial AGI Summit 2024 Day 1 by SingularityNet Diffusé en direct le 27 février 2024 Sommet AGI bénéfique et non-conférence ENVISAGER UN AVENIR RADICALEMENT MEILLEUR À UN MOMENT CRITIQUE L'intelligence générale nécessite une abstraction et une créativité Après avoir organisé des conférences annuelles sur la recherche en général de l'intelligence artificielle depuis 2006 et travaillé sur la R&D connexe depuis quelques décennies auparavant, j'ai vu beaucoup d'approches théoriques et pratiques envers le «grand objectif» de fabriquer des machines qui peuvent vraiment penser. Bien sûr, dans un sens, toute cette expérience est d'une valeur limitée, car ni la mienne ni la recherche de personne d'autre ne se sont encore révélées capables de produire une véritable machine de pensée. Mais je pense que j’ai bien compris les problèmes pertinents. Je suis donc très confiant quand je vous le dis: l'architecture de base et les algorithmiques sous-jacentes Chatgpt et tous les autres systèmes Deep-NN modernes sont totalement incapables d'une intelligence générale au niveau humain ou au-delà, par sa nature fondamentale. Ces réseaux de neurones pourraient faire partie d'un AGI, bien sûr - mais pas la partie cognitive principale. Lors de la conférence annuelle de l'AGI, je co-organise, je vois des présentations de plusieurs approches de recherche avec apparemment plus de potentiel pour une véritable compréhension et pensée de la machine. Il y a le projet d'OpenGog Hyperon dans lequel je suis impliqué, mais aussi beaucoup d'autres: les NARS de Pei Wang, l'Aera de Kristinn Thorrisson et le travail de Gary Marcus et Arthur Franz, pour n'en nommer que quelques-uns. Ces approches sont basées sur une variété de méthodologies différentes - logiques non standard, systèmes dynamiques auto-organisés, modèles psychologiques de raisonnement incertain, recherche d'espaces de programmes informatiques, ... les réseaux de neurones profonds jouent un rôle de soutien dans certains de ces travaux, mais Tout ce AGI R&D sérieux reconnaît que l'intelligence humaine implique bien plus que la reconnaissance des modèles dans d'énormes ensembles de données et la synthèse de simulacra de données observées par des modèles observés par patchworking. Une partie de la limitation des méthodes actuelles d'apprentissage en profondeur est implicite dans le nom même - les paradigmes actuels ne font que l'apprentissage et la synthèse basée sur des modèles apprises, tandis que la cognition concerne le raisonnement, la modélisation, la planification, le jeu, l'imagination et beaucoup d'autres choses aussi. La quasi-absence du raisonnement et de la modélisation dans ces réseaux est étroitement liée à leur échec sur tant de problèmes d'analogie que Melanie Mitchell leur a causée. Cependant, même l'apprentissage réalisé est assez restreint - sans raisonnement et auto-modelant et autres aspects d'un esprit intégré, l'apprentissage automatique a tendance à se concentrer sur les modèles de données au niveau de la surface plutôt que sur l'apprentissage des abstractions plus subtiles. Mais ce sont des abstractions plus subtiles qui ont tendance à mieux généraliser au-delà du domaine précis où ils ont été appris - produisant le «général» en intelligence générale. En fin de compte, ni l'apprentissage ni toute autre chose n'est vraiment la partie «principale» de l'intelligence générale de type humain - il s'agit davantage de la façon d'intégrer ces parties dans un tout unifié. Les LLM peuvent être utiles aux systèmes AGI - nous les intégrons dans notre système d'OpenGOG HYPERON - mais en tant que «lobes d'esprit de reconnaissance / synthèse de modèle» se sont tissés dans un cadre plus large, et non comme des architectures cognitives de base. Les résultats de l'AGI R&D basés sur des architectures plus sophistiqués ne sont pas encore aussi excitants et commerciaux que les résultats des réseaux neuronaux profonds. Mais c'est ainsi que les progrès se déroulent souvent - le chemin vers le succès à long et moyen terme ne passe pas toujours par les choses qui semblent les plus excitantes à court terme. Et les trucs qui semblent les plus excitants à un moment donné, peuvent sembler plus tard avoir été "juste ok" - comme lorsque vous randonnez une montagne et pensez que vous voyez le pic assez près de vous Le vrai pic vous surveille, plusieurs heures ardues et des bas. Et l'excuse à court terme des LLMS n'est pas non plus bon marché, bien sûr. La quantité de financement et le cerveau humain mis dans ces systèmes massifs de «connaissances des connaissances» comme Chatgpt est extrêmement plus élevé que le montant mis dans des approches alternatives d'IA en rendant plus de respect à la complexité de la cognition fondée sur l'auto-modification https://bengoertzel.substack.com/p/is-chatgpt-real-progress-toward-human