Le prédécesseur de l’IA, Yoshua Bengio, lance une organisation à but non lucratif pour que l’IA soit sûre et fiable
Libéré
L’un des chercheurs Intelligence artificielle (IA) La plupart du monde au monde introduit un nouveau système à but non lucratif, qui concevra des systèmes d’assurance. Joshua BengioLe scientifique canadien français est spécialisé dans l’intelligence artificielle, gagnant précieux Le campus Allen Pour son travail sur l’apprentissage en profondeur et surnommé les parents du dieu de l’intelligence artificielle, il a annoncé son introduction à Lagero à Montréal.
Le nouveau système non à profil collectif collecte un groupe Chercheurs mondiaux Il est dédié à « hiérarchiser la sécurité contre les compulsions commerciales », selon un rapport d’organisation à but non lucratif.
«Les modèles actuels de l’intelligence artificielle créent des compétences et des comportements dangereux comme la fraude, Auto-protection et formatage Les objectifs indiquent: « Bengio rapporte que dans lequel il souligne que le système qui soulagera l’énorme potentiel de l’IA tout en réduisant ces risques.
Bengio a expliqué À but non lucratif Il est né d’une nouvelle direction scientifique de 2023 qui a atteint son apogée dans «Scientist Ai», et lui et son groupe sont une nouvelle organisation non-nouveau Systèmes d’agents incontrôlés.
Une IA qui apprend à comprendre le monde
Cette politique varie des autres institutions qui préfèrent prioriser AI non jenhetiqueCela signifie que chaque tâche a besoin d’instructions directes au lieu de fournir des réponses telles que la plupart des systèmes d’IA.
Construit par Logro -Genhetic Ai « Apprenez à comprendre au lieu de comprendre le monde » et « formé pour fournir des réponses fidèles Questions basées sur la rationalité externe« .
Dans le dernier commentaire pour « temps », il s’est exposé à propos de Bengio Scientific IA, dans lequel il a dit: « Il est vraiment préoccupé par le comportement que l’IA prouve déjà sans contrôle Auto-défense et tromperie« . » Peut être conçu pour donner à « scientifique ay » au lieu d’essayer de plaire aux humains Priorité à l’honnêteté« , A écrit.
L’organisation a fait don de dons d’autres sociétés d’IA comme la Future Life Company, John Talin et le Fension sociale de clôture en silicium Dans sa phase d’incubateur. Le Lazaro travaille de l’Institut du Québec de Québec (Mila) à Montréal, qui a aidé Bengio à travailler ensemble.
