AIアラインメント– tag –

AIに「希望どおりの答えを出してほしい」と頼んでも、人間が頭の中で思い描いている目的まで自動的に理解してくれるとは限りません。 指示どおりに動いているように見えても、言葉を必要以上に文字どおり受け取ったり、与えられた評価基準だけを追いかけた...