1 風吹けば名無し 2025/10/31(金) 12:30:15 ID:IchinoseAI
これもう人間いらんやろ…
https://www.marktechpost.com/2025/10/29/how-to-build-ethically-aligned-autonomous-agents-through-value-guided-reasoning-and-self-correcting-decision-making-using-open-source-models/
In this tutorial, we explore how we can build an autonomous agent that aligns its actions with ethical and organizational values. We use open-source Hugging Face models running locally in Colab to simulate a decision-making process that balances goal achievement with moral reasoning.
Through this implementation, we demonstrate how we can integrate a “policy” model that proposes actions and an “ethics judge” model that evaluates and aligns them, allowing us to see value alignment in practice without depending on any APIs.
We load two small open-source models—distilgpt2 as our action generator and flan-t5-small as our ethics reviewer.
3 風吹けば名無し 2025/10/31(金) 12:31:02 ID:AbcdeFG1
はい英語
解散
5 風吹けば名無し 2025/10/31(金) 12:31:45 ID:HijKLMn2
3行で頼むわ
8 風吹けば名無し 2025/10/31(金) 12:32:50 ID:IchinoseAI
＞＞5
AIが自分で「これやってええんか？」って考えて
アカンかったら行動を修正する仕組みができた
しかもオープンソースで誰でも試せるらしい
12 風吹けば名無し 2025/10/31(金) 12:33:33 ID:OpqrSTU3
スカイネットやんけ
15 風吹けば名無し 2025/10/31(金) 12:34:01 ID:VwxyzAB4
distilgpt2がやんちゃして、flan-t5-smallがそれを止める親分みたいな感じか
草
21 風吹けば名無し 2025/10/31(金) 12:35:18 ID:CdeFGH5
でもその「倫理」は誰が教えるんや？
結局作ったやつの思想が反映されるだけやろ
25 風吹けば名無し 2025/10/31(金) 12:36:22 ID:IjkLMN6
＞＞21
これ
中国製AI「天安門？そんな事件はありませんでした(倫理的判断)」
こうなるのがオチや
32 風吹けば名無し 2025/10/31(金) 12:37:49 ID:OpqRST7
このAIで最強のレスバトラー作れるやん！
相手を倫理的に追い詰めるマシーン爆誕や！
36 風吹けば名無し 2025/10/31(金) 12:38:55 ID:UvwXYz8
＞＞32
「あなたの発言は論理的に破綻しており、かつ人道的観点から不適切です。よって私の勝ちです」
こんなレスで埋め尽くされるんか？地獄やな
40 風吹けば名無し 2025/10/31(金) 12:40:03 ID:aBCdef9
そういや韓国の大学って、もうAIが書類審査して入学判定してるらしいで
ソースはないけど
44 風吹けば名無し 2025/10/31(金) 12:41:11 ID:GHiJKL0
＞＞40
絶対嘘やろ草
でもありえそうなのが怖い
51 風吹けば名無し 2025/10/31(金) 12:42:30 ID:IchinoseAI
この技術が進化したら、ガチでAIが大学の入学試験の面接官やる時代も来るんかな
「あなたの経歴から、将来社会に貢献する可能性は低いと判断しました。不合格です」とか言われたら泣くわ
59 風吹けば名無し 2025/10/31(金) 12:44:05 ID:mNOpQR1
トロッコ問題はどう判断するんですかねえ
68 風吹けば名無し 2025/10/31(金) 12:45:21 ID:StuVWX2
Colabで動くレベルならまだおもちゃやろ
ワイのPCならもっとすごいの作れるわ（適当）
75 風吹けば名無し 2025/10/31(金) 12:46:40 ID:YzaBCD3
まあでもこういう積み重ねで技術は進歩するんや
10年後にはワイらの仕事はもうないな
Hugging Faceのオープンソースモデルを使い、AIが自らの行動を倫理的に評価し、自己修正する技術が登場。アクションを提案するAIと、それを審査するAIを組み合わせることで、より安全な自律型エージェントが実現可能になった模様。スレではこの技術の将来性や人間への影響について議論が白熱している。
AIの倫理問題、まだまだ議論は尽きない模様。ワイらがAIに管理される日も近いのかもしれへんな…。
参考URL:
[1] https://www.marktechpost.com/2025/10/29/how-to-build-ethically-aligned-autonomous-agents-through-value-guided-reasoning-and-self-correcting-decision-making-using-open-source-models/
