AI誤送信の経緯と、AI自動化で学んだこと
先日、AIを活用した業務自動化テスト中に、ひらつか葬祭公式LINEフォロワーの皆さまへ誤送信をしてしまいました。
突然の通知により、ご心配やご迷惑をおかけしましたこと、改めてお詫び申し上げます。
今回の件は、自分の中でも非常に大きな反省となりました。
同時に、AIを業務へ取り入れる難しさと責任について、強く考えさせられる出来事でもありました。
今回取り組んでいたこと
今回、実装しようとしていたのは「ご供花の自動発注」です。
オンライン訃報(@葬儀)を通してご供花申込をいただくと、システムから自動メールが届きます。
そのメールを基に、
- 必要情報を抽出し、提携生花店へ発注する
- 請求書作成や入金処理登録を行う
- 進行状況を通知する
といった流れを、AI(Claude)を活用して自動化しようとしていました。
これまで手作業で行っていた業務を効率化できれば、その分、ご家族様との時間や現場対応へより集中できるのではないか。
そのような思いから始めた取り組みでした。
発生したこと
テスト発注を実行した結果、ご供花発注までは正常に動作しました。
しかし途中でエラーが発生し、通知設定の不備により、ひらつか葬祭公式LINEフォロワーの皆さまへ誤送信が行われてしまいました。
今回、自分は「通知を送る」という程度の感覚で設定していました。
しかし実際には、「どこへ通知するのか」を明確に限定できておらず、結果として意図しない一斉送信という形になってしまいました。
本来であれば、
- 送信先を明確に限定する
- テスト環境と本番環境を分ける
- 実行前の確認手順を設ける
- 誤送信防止の仕組みを入れる
など、もっと慎重な確認が必要でした。
完全に自分の認識不足と確認不足だったと反省しています。
不幸中の幸いだったこと
今振り返ると、今回の通知先が「公式LINEフォロワー」の皆さまだったことは、不幸中の幸いだったのかもしれません。
ひらつか葬祭公式LINEのフォロワー様は、実際に葬儀をお手伝いさせていただいた方々が中心です。
だからこそ、突然の通知にも温かく反応してくださったのだと思います。
一方で、もしこれが、
- 現在ご相談中の方々
- 仕事上やり取りのある方々
- 各関係先様
などへ送信されていたら、また全く違う事態になっていた可能性もあります。
今回の件を通して、AIは便利である一方、曖昧な指示をこちらの意図通りに察してくれるものではないと痛感しました。
使う側が曖昧なまま進めてしまえば、その曖昧さも含めて実行されてしまう。
その怖さを、今回かなり現実的に体感しました。
指摘を受けて考えたこと
今回の件について、妻からも厳しく指摘を受けました。
それは単なる注意ではなく、「ひらつか葬祭」という屋号を背負っている以上、軽く見られるようなことをしてはいけない、という危機感からの言葉でした。
個人の失敗として済ませるのではなく、屋号を掲げて仕事をしている以上、その発信や対応には責任が伴います。
自分自身も今回の件で、AIを使うことそのものよりも、「どう責任を持って運用するか」のほうが遥かに大切なのだと痛感しました。
今後について
今回の件は、本当に反省すべき出来事でした。
ただ同時に、AIや自動化によって、これまで手作業で行っていた業務の一部を効率化できる可能性も感じています。
大切なのは、便利さだけに目を向けるのではなく、その裏側にあるリスクを理解し、慎重に扱うことだと思います。
今後、業務改善にAIを活用する場合には、
- 送信先や処理内容を明確に限定する
- 本番環境での一斉実行を避ける
- 必ず人の確認を挟む
- 小さな範囲でテストを重ねる
といった基本を徹底していきます。
今回の件を真摯に反省し、今後はより慎重に、より責任ある形で業務改善へ活かしてまいります。
改めまして、このたびの誤送信によりご心配とご迷惑をおかけしましたこと、深くお詫び申し上げます。
また、温かく受け止めてくださった皆さま、本当にありがとうございました。
