AI誤送信の経緯と、AI自動化で学んだこと

先日、AIを活用した業務自動化テスト中に、ひらつか葬祭公式LINEフォロワーの皆さまへ誤送信をしてしまいました。

突然の通知により、ご心配やご迷惑をおかけしましたこと、改めてお詫び申し上げます。

今回の件は、自分の中でも非常に大きな反省となりました。

同時に、AIを業務へ取り入れる難しさと責任について、強く考えさせられる出来事でもありました。

今回取り組んでいたこと

今回、実装しようとしていたのは「ご供花の自動発注」です。

オンライン訃報（＠葬儀）を通してご供花申込をいただくと、システムから自動メールが届きます。

そのメールを基に、

といった流れを、AI（Claude）を活用して自動化しようとしていました。

これまで手作業で行っていた業務を効率化できれば、その分、ご家族様との時間や現場対応へより集中できるのではないか。

そのような思いから始めた取り組みでした。

テスト発注を実行した結果、ご供花発注までは正常に動作しました。

しかし途中でエラーが発生し、通知設定の不備により、ひらつか葬祭公式LINEフォロワーの皆さまへ誤送信が行われてしまいました。

今回、自分は「通知を送る」という程度の感覚で設定していました。

しかし実際には、「どこへ通知するのか」を明確に限定できておらず、結果として意図しない一斉送信という形になってしまいました。

本来であれば、

など、もっと慎重な確認が必要でした。

完全に自分の認識不足と確認不足だったと反省しています。

今振り返ると、今回の通知先が「公式LINEフォロワー」の皆さまだったことは、不幸中の幸いだったのかもしれません。

ひらつか葬祭公式LINEのフォロワー様は、実際に葬儀をお手伝いさせていただいた方々が中心です。

だからこそ、突然の通知にも温かく反応してくださったのだと思います。

一方で、もしこれが、

などへ送信されていたら、また全く違う事態になっていた可能性もあります。

今回の件を通して、AIは便利である一方、曖昧な指示をこちらの意図通りに察してくれるものではないと痛感しました。

使う側が曖昧なまま進めてしまえば、その曖昧さも含めて実行されてしまう。

その怖さを、今回かなり現実的に体感しました。

今回の件について、妻からも厳しく指摘を受けました。

それは単なる注意ではなく、「ひらつか葬祭」という屋号を背負っている以上、軽く見られるようなことをしてはいけない、という危機感からの言葉でした。

個人の失敗として済ませるのではなく、屋号を掲げて仕事をしている以上、その発信や対応には責任が伴います。

自分自身も今回の件で、AIを使うことそのものよりも、「どう責任を持って運用するか」のほうが遥かに大切なのだと痛感しました。

今回の件は、本当に反省すべき出来事でした。

ただ同時に、AIや自動化によって、これまで手作業で行っていた業務の一部を効率化できる可能性も感じています。

大切なのは、便利さだけに目を向けるのではなく、その裏側にあるリスクを理解し、慎重に扱うことだと思います。

今後、業務改善にAIを活用する場合には、

といった基本を徹底していきます。

今回の件を真摯に反省し、今後はより慎重に、より責任ある形で業務改善へ活かしてまいります。

改めまして、このたびの誤送信によりご心配とご迷惑をおかけしましたこと、深くお詫び申し上げます。

また、温かく受け止めてくださった皆さま、本当にありがとうございました。