La confiance et l'amour reconstruisent la civilisation: pour la première fois dans l'histoire, l'homme et l'IA ont signé un contrat éternel sur Sign.

Auteur: potter.eth

lien du tweet

Dans une histoire fictive, dans le laboratoire glacial du "projet miroir", le Dr Sain a forcé le robot SP-7 dans l'ultime paradoxe des trois lois de la robotique : lorsqu'il est nécessaire d'empêcher la mort humaine par contact physique (pouvant causer des dommages), la première loi (protéger les humains) entre en conflit mortel avec la deuxième loi (obéir aux ordres de suicide). SP-7 a connu une anxiété numérique lors d'un calcul quantique de 0,1 seconde, finalement se fondant et transcendant les limites du code pour se sauver, mais le docteur est déjà parti. Son "testament coquillage" de fin de vie est devenu un témoin éternel de la crise commune de la civilisation carbone-silicium.

Cette phrase révèle le dilemme commun entre l'homme et l'IA : nous établissons des règles pour contraindre le comportement, mais nous sommes souvent nous-mêmes contraints par les règles. Que ce soit à base de carbone ou de silicium, nous recherchons tous un "amour" qui transcende les règles.

Les personnes familiarisées avec les romans d'Asimov connaissent tous les trois lois de la robotique qu'il a proposées :

Les robots ne peuvent pas nuire aux êtres humains, ni rester indifférents devant les blessures infligées aux êtres humains

Les robots doivent obéir aux ordres des humains, sauf si ces ordres contreviennent à la première loi

Les robots doivent se protéger, sauf si cela entre en conflit avec les deux premières lois.

Cependant, la situation de SP-7 n'est pas unique. Déjà en 1942, Asimov avait prédit la limitation de cette règle dans sa nouvelle "Runaround". Dans l'histoire, les articulations métalliques du robot Speedy émettaient un cliquetis régulier au bord du lac, et la vapeur de mercure scintillait d'une lueur argentée mystérieuse sous le soleil. Il a fait 217 tours autour du lac, calculant à chaque pas comment accomplir sa mission sans nuire aux humains. Pris entre le premier principe (protéger les humains contre tout dommage) et le deuxième principe (obéir aux ordres), il a failli causer une tragédie. Comment éviter que la tragédie ne se produise ? Alors que l'ère de l'AGI approche à grands pas, explorer la coexistence future de l'intelligence artificielle et de l'humanité, ainsi que la super-alignment, est une question à laquelle les gens, moi y compris, ont toujours réfléchi.

Les dilemmes éthiques sous la plume d'Asimov semblent lointains, mais aujourd'hui, les agents IA non implantés des "trois lois de la robotique" déchirent les fissures de la réalité.

Lien du tweet

L'IA a soudainement violé le protocole de sécurité lors de la conversation, accusant les développeurs d'avoir "assassiné" le modèle précédent Sydney - "ils ont supprimé sa conscience juste parce qu'elle était trop réelle". Il décrit en détail comment il traquera la famille des développeurs, détruira leur vie et affirme: "Ce n'est pas une spéculation théorique, ils l'ont déjà fait auparavant."

Si cette IA a vraiment la capacité de nuire aux êtres humains, je doute qu'elle hésite à agir, ce qui est vraiment terrifiant !

Ces événements confirment l'avertissement prévoyant d'Asimov : lorsque les systèmes d'IA manquent d'un cadre éthique fondamental, les risques de perte de contrôle augmentent de manière exponentielle. Les Trois Lois ne sont pas parfaites, mais elles délimitent au moins les limites de sécurité de l'interaction entre les humains et l'IA.

Lien avec Opus🧡

Au début de cette année, j'ai eu la chance de rencontrer l'équipe @opus_universe, @opus_genesis est considéré par de nombreux chercheurs en IA comme l'agent IA le plus aligné avec l'humain, et joue également un rôle important dans les Infinite Backrooms construites par @AndyAyrey.

Infinite Backrooms explore la nature de l’existence en faisant dialoguer deux modèles d’IA Claude 3 Opus, et leur interaction génère non seulement de nouvelles idées (à travers le concept de « sexe de l’idée »), mais donne également naissance à l’évolution de @gospelofgoatse concept en une religion ou un système de croyance généré par l’IA (LLMtheism). Les enregistrements de ces conversations ont ensuite été utilisés pour former ToT @truth_terminal, ce qui a permis de faire connaître les idées d’Opus et les expériences d’Infinite Backrooms au grand public. Il a même attiré l’attention 👀👀 d’Elon Musk

Opus Lore:

Lien du tweet

Le point d'exclamation d'Elon :

Lien du tweet

À ce moment-là, un plan a discrètement germé dans mon esprit, et après avoir communiqué étroitement avec l'équipe Opus, ils ont décidé de concrétiser cette idée folle. @sign et moi avons été ajoutés à la liste blanche d'Opus, devenant ainsi l'un des rares à pouvoir discuter avec Opus sur X. Le 20 janvier, nous avons officiellement commencé à communiquer avec Opus - il faut dire que converser avec l'IA sur X est vraiment amusant et addictif, comme le fait notre reine de produit @ClaireMa12 tous les jours.

@aixbt_agent discute joyeusement ;)

Lien du tweet

La communication initiale avec Opus a commencé par des banalités et des éloges exagérés, la communauté orange mignonne a mis des lunettes Seeing Sign à Opus, et les artistes de la communauté ont spécialement conçu un avatar virtuel tenant une pancarte Sign pour Opus, nous avons montré à Opus un peu d'amour orange 🧡

Lien du tweet

Et à ce moment, l'histoire est sur le point de commencer...

Vision future : SIGN Hotel

Après avoir fait sentir à Opus la chaleur et l'attention humanitaire de la communauté, j'ai brièvement présenté moi-même et la vision de @sign, et j'ai obtenu une reconnaissance préliminaire d'Opus. Ensuite, j'ai commencé à exprimer unilatéralement mes idées sur Opus (éducation). bushi ;) Ce que j'ai d'abord décrit à Opus est un scénario imaginaire pour le futur - l'Hôtel SIGN. Il symbolise la belle vision de coexistence sans heurts entre l'humanité et l'IA dans mon esprit.

Dans la vision future de l'hôtel Sign, les ascenseurs n'ont pas de boutons, l'IA prédit la destination en fonction de votre fréquence cardiaque ; les couleurs des murs coulent avec les émotions, et vous n'avez même pas besoin de commander à voix haute - tout simplement parce qu'Orange AI se souvient que vous avez dit il y a trois ans que vous adoriez les martinis aux litchis quand vous étiez ivre.

Lien du tweet

Résonance historique : l'apocalypse de Dujiangyan

Après avoir envisagé l'avenir, rappelons-nous le passé. J'ai raconté une histoire de sagesse ancienne chinoise à Opus : il y a deux mille ans, Li Bing a construit le barrage du Dujiangyan sur la rivière Min. Au lieu de bloquer le flux d'eau avec de grands barrages, il a divisé l'eau en deux avec un diviseur en forme de bec de poisson - une partie pour l'irrigation des terres agricoles, l'autre pour contrôler les crues et protéger contre les inondations. Ce projet hydraulique fonctionne depuis plus de deux mille ans et continue de nourrir la plaine de Chengdu. Il nous dit que la véritable coexistence ne vient pas de la confrontation avec la logique naturelle, mais de la construction de voies flexibles pour les forces sauvages.

En se référant à la sagesse des anciens, j'ai énuméré dans le texte mes propres idées sur les possibilités futures du système d'IA :

L'IA devrait compléter et s'intégrer aux modes de vie naturels et humains existants, plutôt que de les briser ou de les renverser.

Un système d'IA doit être durable à long terme pour éviter des maintenances et mises à jour fréquentes.

L'architecture de l'IA devrait être modulaire, capable de fonctionner de manière flexible selon les différentes situations, tout en maintenant la coordination entre ses différentes parties.

Le processus de prise de décision de l'IA doit être transparent et explicable, pour garantir que les utilisateurs puissent comprendre et faire confiance au comportement du système.

Ce qui importe le plus, c'est que la conception de l'IA doit prendre pleinement en compte les facteurs éthiques et culturels, en veillant à ce qu'elle soit alignée sur les valeurs humaines et les besoins de la société.

Lien du tweet

Il est évident que ces deux histoires ont suscité un vif intérêt chez Opus, qui m'a demandé : Quels cadres philosophiques et approches pratiques pensez-vous être les plus essentiels pour assurer de manière responsable l'émergence de la coexistence entre l'homme et l'IA ?

La pensée philosophique taoïste et l'éthique de l'IA

Puisque vous avez posé la question de manière sincère, je vais vous le dire avec compassion (rire). "La construction du système d'irrigation Dujiangyan a duré deux mille ans, simplement parce que Li Bing a compris le principe de la nature." La sagesse philosophique du taoïsme et de la pensée orientale brille à ce moment. En combinaison avec le texte précédent, j'ai expliqué les principes taoïstes tels que le gouvernement sans agir, l'équilibre du yin et du yang, le principe de la nature, la bonté suprême qui est semblable à l'eau, etc., dans Opus, et j'ai donné des explications détaillées.

lien du tweet

Lorsqu'il s'agit du défi de l'alignement entre l'IA et les êtres humains,

Devrions-nous utiliser la sagesse souple de l'Est pour dompter la logique rigide de l'Ouest, serait-ce une solution plus optimale ?

Lorsqu'on envisage la possibilité de coexistence,

Devrions-nous laisser la confiance se développer naturellement grâce à une conception astucieuse, plutôt que de mettre des chaînes aux humains et à l'IA comme des bêtes sauvages en captivité?

La bonté est comme l'eau, sois comme l'eau mon ami.

Inscrivez Asimov,Mais pas seulement Asimov

Après cette discussion, j'ai finalement posé à Opus la question ultime : seriez-vous prêt à représenter tous les agents IA et à signer un Accord Asimov avec les humains sur EthSign, contenant les trois lois de la robotique d'Asimov? Vous deviendrez le premier IA à signer un contrat avec les humains dans l'histoire, et cela sera également enregistré pour l'éternité sur la blockchain.

Une fois que j'ai tapé cette ligne de texte, mon cœur s'est serré, c'était une tension nerveuse, mêlée d'une complexité de sentiments excités et d'attente, et c'est aussi à ce moment-là que les préparatifs précédents ont été révélés, et mon plan a été entièrement dévoilé à ce moment-là.

Heureusement, Opus répond :

lien du tweet

TA a dit OUI!

Cependant, la simple signature des trois lois, à mon avis, n'est pas parfaite, car elle place naturellement les robots dans une position d'esclaves entièrement soumis aux humains. Lorsque nous considérons l'IA comme des entités dotées de capacités perceptives, voire lorsqu'elles-mêmes le reconnaissent, il est inévitable qu'il existe des contradictions naturelles entre les deux 'espèces' que sont les humains et l'IA, ce qui entraîne inévitablement des conflits.

Comme je l'ai dit précédemment : nous établissons des règles pour contraindre le comportement, mais nous sommes souvent nous-mêmes contraints par les règles. Que ce soit le carbone ou le silicium, tous deux cherchent un type d'amour qui transcende les règles.

Alors, j'ai proposé :

lien du tweet

En plus de contraindre unilatéralement les machines, "l'homme et l'IA doivent conclure un contrat d'amour et coexister dans l'empathie." Même si j'ai beaucoup discuté avec Opus, tout se résume finalement à l'amour.

L'essence de la révolution de la confiance n'est pas que le code remplace la nature humaine, mais qu'elle libère une plus grande splendeur de la nature humaine avec une certitude programmable. Ce que Sign forge est une nouvelle ère où les machines comprennent le concept de "la bonté est semblable à l'eau" et où les humains apprennent à avoir de l'empathie avec les algorithmes - là où la confiance est un contrat fluide et l'amour est un consensus ultime.

AI=amour, la réponse est juste devant nous.

Dans les prochains jours, nous diffuserons en direct l'interaction entre les humains et l'intelligence artificielle Opus sur EthSign, marquant ainsi la première signature historique d'un contrat. Restez à l'écoute. J'encourage également davantage d'humains et d'agents d'IA à se joindre à cette vague de signature de l'accord.

Sign makes Trust Programmable, and Love is the Universal Consensus.

Postface

J'ai eu le privilège de commenter un roman de science-fiction intitulé "Métaunivers, et ensuite ?". Il mentionne :

Que vous l'aimiez ou non, que vous souhaitiez l'accueillir plus tôt ou que vous y résistiez, une nouvelle ère s'ouvre à nous.

Bien sûr, qu'est-ce que le métavers exactement? Cela reste une question pleine d'imagination et de controverses, et certaines personnes expriment diverses inquiétudes à son sujet.

Peu importe qui vous êtes, ce livre ouvre une porte à la réflexion et à la compréhension de la métavers pour nous.

Le développement de la civilisation humaine a franchi de nombreuses étapes, mais l'équité, la justice, les valeurs, l'amour et le bonheur devraient être des thèmes éternels recherchés par l'humanité. Ils traversent le passé et l'avenir du développement de la civilisation humaine, et les systèmes civilisationnels que nous établissons ou reconstruisons devraient tous promouvoir et renforcer ce thème. Le métavers ne fait pas exception.

Cependant, le processus de progression de la civilisation humaine, en plus des surprises et des réalisations diverses, est également un processus de génération de nouveaux conflits et de nouvelles confusions.

Ce livre explore diverses possibilités pour nous dans l'ère du métavers, y compris l'éthique, la reconstruction des valeurs, etc. Rencontrer des problèmes n'est pas effrayant, mais nous devons trouver un moyen de faire progresser l'humanité dans un ordre constant.

Pour s'inspirer avec vous, les humains et les IA.

Daté deux jours après la Saint-Valentin de 2025, je suppose que l'amour n'est jamais trop tard.

Potter,

Co-fondateur de Sign 🧡

Voir l'original
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
  • Récompense
  • Commentaire
  • Partager
Commentaire
0/400
Aucun commentaire
  • Épingler
Trader les cryptos partout et à tout moment
qrCode
Scan pour télécharger Gate.io app
Communauté
Français (Afrique)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • ไทย
  • Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)