AI誤送信の経緯と、AI自動化で学んだこと

📝 約1,050字  ／  ⏰ 読了目安 約3分

先日、AIを活用した業務自動化のテスト中に、ひらつか葬祭公式LINEのフォロワーの皆さまへ誤送信をしてしまいました。突然の通知でご心配・ご迷惑をおかけしましたこと、改めてお詫び申し上げます。今回は、何が起きたのか、そこから何を学んだのかを正直にお伝えします。

今回取り組んでいたこと

オンライン訃報（＠葬儀）からご供花のお申込みをいただいた際、必要情報を抽出して提携生花店へ発注し、請求書作成や進行状況の通知までを行う「ご供花の自動発注」を、AI（Claude）を使って自動化しようとしていました。手作業を効率化できれば、その分ご家族様との時間や現場対応により集中できる――そんな思いからの取り組みでした。

発生したこと

テスト発注そのものは正常に動作しましたが、途中でエラーが発生。通知設定の不備により、公式LINEフォロワーの皆さまへ一斉に誤送信されてしまいました。「通知を送る」という程度の感覚で設定し、送信先を明確に限定できていなかったことが原因です。テスト環境と本番環境を分ける、実行前に確認手順を設ける――そうした基本的な備えが足りませんでした。完全に自分の認識不足です。

不幸中の幸いだったこと

今回の送信先が、実際にご葬儀をお手伝いした方々中心の公式LINEフォロワー様だったことは、不幸中の幸いだったと思います。だからこそ温かく受け止めていただけました。これがご相談中の方々や関係先様へのものだったら、事態はまったく違っていたはずです。AIは便利な一方、曖昧な指示はそのまま曖昧に実行されてしまう――その怖さを実感しました。

指摘を受けて考えたこと

妻からも厳しい指摘を受けました。「ひらつか葬祭」という屋号を背負っている以上、軽く見られるようなことをしてはいけない、という言葉です。個人の失敗では済まされず、屋号を掲げる以上、発信や対応には責任が伴います。AIを使うこと自体より、「どう責任を持って運用するか」のほうがはるかに大切だと痛感しました。

今後について

今後は、送信先や処理内容を明確に限定する、本番環境での一斉実行を避ける、必ず人の確認を挟む、小さな範囲でテストを重ねる――この基本を徹底します。今回の件を真摯に反省し、より慎重に、より責任ある形で業務改善に活かしてまいります。

改めて、このたびの誤送信でご心配・ご迷惑をおかけしましたことを深くお詫び申し上げます。温かく受け止めてくださった皆さま、本当にありがとうございました。

ひらつか葬祭｜東京城南エリア（品川・港・目黒・大田・世田谷）対応
お問い合わせ：LINE公式アカウント・お電話にて承ります