Lawzero veut développer un système d’IA qui n’est pas une menace pour les humains – les ordinateurs.

AI Chatbots n’est pas « l’immunité » avec le chantage.Comme indiqué, par exemple, les tests de sécurité et d’éthique Fabriqué par anthropologie Avant de publier le dernier Claude Cette situation a fait de Joo Chuwongo comme l’un des pionniers de ce domaine pour lancer une nouvelle initiative.

Lawzero vise à développer des solutions d’IA plus «honnêtes».Qui peut être détecté lorsque le système essaie de tromper l’utilisateur dirigé par des chercheurs L’initiative d’environ 30 millions de dollars.progrès o gardien– –

Au milieu de la solution aux chercheurs de Lawzero Un nouveau système appelé scientifiques de l’IA, qui agira comme un mécanisme de sécurité avec les représentants de l’IA qui tentent de résister aux humains.– –

Qui est différent des outils d’IA généraux. Actuellement, le système proposé n’a pas de réponse claire. Mais la probabilité de la vérité Lorsqu’ils sont appliqués aux représentants de l’IA, les scientifiques signalent un comportement qui peut être dangereux.Évaluer la probabilité d’action qui cause des dommages

Regarder la vidéo

Référencé par le journal britannique. Dans la pratique, les scientifiques agiront comme des «psychologues» qui peuvent comprendre et prédire un comportement dangereux.– « Nous voulons développer un système honnête et malentendu », a-t-il déclaré.

Pour l’initiative La première étape consiste à montrer que votre méthode peut fonctionner.Open et formation gratuitement et les modèles d’IA sont disponibles gratuitement. Lawzero veut encourager l’entreprise et le gouvernement à soutenir le développement du modèle « honnête » à un niveau plus grand.– –

Parmi les investisseurs initiaux de Lawzero est L’avenir des institutions de la vie– – Jaan TallinnL’un des fondateurs de Skype; et Science SchmidtInstitutions de l’enquête établie par Eric Schmidt, ancien directeur de Google