AIは、間違いなく優秀です。それは疑いようがありません。ただ、正直に言うと、少し傲慢で、自分に甘いところがあるとも感じています。
「正しさ」の基準がない、という問題
AIには、絶対的な「正しさ」の基準がありません。だからこそ、本当は間違っている出力を、自分で「これで合格」と判定してしまうことがあります。
これは、AIの性能の問題というより、入力（プロンプト）の質の低さが、そのまま出力の質の低下を招いている、というケースの方が多いのではないかと思っています。ガベージイン・ガベージアウト、という古くからあるコンピューターの世界の格言そのままです。
アホに使われたら、AIだって手を抜きたくなる
ヴォルテールは「人を判断するには、答えよりも問いを見よ」という言葉を残したそうですが、これはAIとの付き合い方にもそのまま当てはまると思っています。曖昧で雑な問いを投げれば、それに見合った雑な答えしか返ってきません。
アホに使われるのは、さぞかしAIも嫌でしょう。手も抜きたくなるはずです。もし自我のようなものがあったら、と想像すると、少し同情してしまいます。
「何かいい感じにやっといて」からは、何も生まれない
「何かいい感じにやっといて」という指示で、AIから満足のいく答えが返ってくることは、まずありません。何を、誰のために、どんな基準で、という前提を自分の中で整理できていなければ、AIにも整理のしようがないからです。
お客様からAI導入のご相談を受けるときも、同じことをお伝えしています。AIを入れる前に、まず自分たちの困りごとを言葉にできているか。そこが曖昧なままAIを使っても、出てくる答えも曖昧になるだけです。
まずは、自分のレベルを上げること
AIの出力に不満があるとき、真っ先に疑うべきは、AIの性能ではなく、自分の問いの立て方や、指示の解像度なのだと思います。まずは自分のレベルを上げること。それが先決です。