ChatGPT が連邦職員に与える影響

連邦政府機関は、業務を改善し、有権者により良いサービスを提供するための革新的で安全なソリューションを常に模索しています。 過去 10 年間に彼らの注目を集めたテクノロジーの 1 つは人工知能です。

最近の大規模言語モデルとトランスフォーマー AI の推進により、連邦職員は AI の可能性と、AI が政府機関の任務を効果的に実行できる方法に魅了されています。

人気のある LLM ツールの 1 つは ChatGPT です。 議員たちはすでに ChatGPT をスピーチ作成の支援に使用しており、各政府機関は、従業員のコミュニケーション支援、ワークフローの合理化、従業員の情報へのアクセスの増加など、既存のプロセス内でこのテクノロジーを導入することによる無数のメリットを調査し始めています。

興奮の一方で、ChatGPT やその他の LLM ツールが仕事を奪い、不正確な情報を提供し、偏見を永続させる可能性があるという懸念があります。 一部の懸念には根拠がないかもしれないが、連邦政府機関がChatGPTの本格的な導入が従業員や政府機関の関係者に与える可能性のあるあらゆる潜在的な影響を考慮することが重要である。

そのためには、ChatGPT が連邦職員へのサービスを提供できる部分と、それができない部分を徹底的に理解する必要があります。

従来、AI はサービス デスクでの支援、意思決定の合理化、反復的なタスクの自動化などにより、政府職員の内部プロセスを支援していました。 ChatGPT はこれらの従来の役割を果たすことができますが、その大規模な言語モデルにより新たな次元の機能も可能になります。

このテクノロジーにより、連邦職員がいつでもアクセスできるオンライン コース、チュートリアル、その他の教育リソースを作成することで、連邦職員に強化されたトレーニングと専門能力開発の機会を提供できます。 あるいは、ポリシー、手順、規制、業務関連のデータや統計に関する情報への従業員のアクセスを改善することもできます。

ChatGPT は、十分に文書化された政府全体の課題の解決を支援する可能性もあります。 たとえば、従業員が最初から作成するのではなく編集できる政府契約の草案を作成することで、複雑な連邦政府による買収プロセスを合理化することができます。 国防総省は、ワークフローを加速するために「AcqBot」として知られる同様の AI を活用した契約書作成ソリューションの開発をすでに進めているため、潜在的なアプリケーションが政府機関で失われることはありません。

さらに、ChatGPT のアプリケーションは、特定の政府機関のニーズに合わせて簡単にカスタマイズできます。 IRS は ChatGPT を使用して、受信した納税フォームを分類し、処理のために適切な部門にルーティングするプロセスを自動化できます。一方、国防総省は ChatGPT を使用して機器のメンテナンスに関するレポートを自動的に生成し、修理のスケジュールを合理化できます。

ChatGPT のアプリケーションは、想像力、創造性、および望ましいレベルの影響によってのみ制限されます。 ただし、その影響はすべて良いものではなく、ChatGPT に依存しすぎると、適切なガードレールがなければ組織に重大なリスクをもたらす可能性があります。 たとえば、認定された倫理的ハッキング コミュニティのメンバーは、ChatGPT などの多数の LLM および Transformer ベースのツールをジェイルブレイクし、回答にバイアスを挿入したり、倫理ポリシーに違反したり、分散型サービス拒否攻撃用のコードを作成したりするよう騙す方法を証明しています。

ChatGPT は、場合によっては応答を提供したり、存在しないソースから情報を抽出して即時に応答したりすることもできます。 これは、ChatGPT が利用可能な情報に基づいた確率ベースの推測を使用して応答を生成するために発生します。

したがって、抽出元のデータは正確である可能性がありますが、固有のプロンプトに答えるためにデータを圧縮および調整すると、正確なステートメントではなく最も可能性の高いステートメントが生成され、完全にでっち上げられたソースが生成される場合があります。 エラーが発生した場合、その間違いを認めず、その応答を再確認します。 このため、連邦職員が給付金に関する情報を入手するためにこのツールに依存している場合や、このツールを使用して作成された契約書の書式エラーが発生する可能性があります。