4月7日、テキサス州プラノの18番街AOLにある鉄道踏切で、テスラの完全自動運転（FSD）モードを使用していたドライバーのジョシュア・ブラウン氏は、九死に一生を得る体験をしました。当時、踏切の遮断機は下りており、警告灯が点滅し、遠くからはDART（ダラス・エリア・ラピッド・トランジット）の列車が近づいてくるのが見えていました。ブラウン氏は、列車の通過を待つのに少なくとも1分はかかると判断し、運転席でリラックスしていました。
しかし、停止しているはずのテスラが突如として自ら動き出したのです。ブラウン氏は「何の前触れもなく、私のテスラがいきなり加速し始めたのです。完全にパニックに陥りました。反応するまでに1秒ほどかかりましたが、それは自分でも認めがたいほど長い時間に感じられました」と、当時の衝撃を振り返ります。
元レースドライバーとしての経験を持つブラウン氏は、反射的にブレーキを強く踏むのではなく、レース界の格言である「迷ったら踏み込め（When in doubt, throttle out）」に従う決断を下しました。彼はアクセルペダルを床まで踏み込み、列車が到達する前に線路を横切ろうと試みました。車両は遮断機を突き破り、運転席側の窓の中央に衝撃を受けながらも、間一髪で線路を突破しました。
ブラウン氏は「あの混沌とした瞬間、右側を見ると列車がこちらに向かって猛スピードで突き進んでくるのが見えました。ライトは眩しく、警笛の音は耳を劈くようでした。本当に恐ろしいほどの至近距離でした。奇跡的に車は反対側へ抜け出すことができ、そこで初めてブレーキを踏みました」と述べています。衝突の衝撃でダッシュボードやセンターコンソールにあった荷物が散乱しましたが、彼は無傷でした。
停車後、テスラの画面には「オートパイロットが解除されました。何が起きましたか？」という問い合わせが表示されました。ブラウン氏はこれまでFSDで4万マイル（約6万4,000キロ）以上を走行してきましたが、システムに裏切られたと感じたのは今回が初めてだったといいます。この事件は、高度な自動運転技術が抱える潜在的なリスクを浮き彫りにしました。
テスラのFSDは「ビジョン・オンリー」アプローチを採用しており、レーダーの代わりに8台のカメラを使用したエンドツーエンドのニューラルネットワークで制御されています。高速道路では安定した動作を見せる一方で、鉄道踏切はシステムにとって非常に困難なシナリオであることが指摘されています。踏切によっては遮断機や信号がない場所もあり、システムが状況を正しく認識できず、今回のように遮断機を無視する挙動を示すことがあります。
プラノでの一件は、決して孤立した問題ではありません。2026年3月には、カリフォルニア州ウエストコビーナで、FSDを搭載したモデル3が時速37キロで踏切の遮断機を突き破る様子がドライブレコーダーに記録されています。また、2025年にはペンシルベニア州でFSD作動中のテスラが列車と衝突する事故が発生しているほか、NBCニュースはソーシャルメディア上で同様の不具合報告を40件以上確認しています。
テスラの愛好家であるジョー・テグトマイヤー氏も、オースティンでのロボタクシーの試験走行中に同様の事態を目撃しています。列車接近の信号が灯り、遮断機が下り始めたにもかかわらず、車両はそれを認識せずに進み続けました。この時は助手席にいたテスラの従業員が手動で介入し、車両を停止させる必要があったと報告されています。
これら一連の事態を受け、エド・マーキー上院議員とリチャード・ブルーメンソール上院議員は、全米高速道路交通安全局（NHTSA）に対し、踏切におけるFSDの挙動に関する正式な調査を要求しました。NHTSAはすでに調査を開始しており、これまでに逆走や信号無視を含む80件以上の違反、58件のインシデント、14件の事故、23件の負傷者をFSDに関連付けて記録しています。
上院議員らは「道路標識の見落としや不適切な車線変更も危険ですが、鉄道踏切での判断ミスは、乗員だけでなく列車の乗客や鉄道作業員をも巻き込む、多数の犠牲者を伴う大惨事に直結する」と強い懸念を表明しています。当局はシステムの安全性について厳格な監視を強めています。
興味深いことに、プラノでの事故の翌日、テスラは新しいコンパイラをベースにした「FSD v14.3」の配布を開始しました。このアップデートでは、反応速度が20％向上したほか、「車両の軌道上に突き出ている、またはぶら下がっている珍しい物体」への対応が改善されたとされています。テスラは明言を避けていますが、多くの専門家はこれが遮断機への対応を意図したものだと推測しています。
「フルセルフドライビング」という名称を冠してはいるものの、現在のシステムは依然としてSAEレベル2の運転支援システムであり、常に人間の監視が必要です。イーロン・マスク氏自身も以前、「FSDが一般的に機能するようになってから、人間よりも大幅に安全だと言えるようになるまでには数年かかる」と認めています。踏切のような特殊な条件下では、依然としてシステムの脆弱性が残っています。
米国連邦鉄道局のデータによると、2024年には踏切事故で267名が亡くなっています。ジョシュア・ブラウン氏の事例は、テクノロジーを否定するものではありませんが、FSDがまだ発展途上のソフトウェアであることを示す明確な警鐘です。遮断機という「単純な」障害物に対してシステムが完全な信頼性を証明するまで、ドライバーは物理的にハンドルを握り続ける義務があります。
