こんばんみん。
Pocolです。

ネットで記事を漁っていたら，アルファテストの品質向上の手法についての記事を見つけました。
https://asawicki.info/articles/alpha_test.php5

以前ゲーム開発をしていた際に，キャラクタの髪の毛や動物の毛周りで困ることがあったので，ハッシュ化アルファテストなどを試してみたのですが，結構ちらつきがやっぱりきになっちゃうなーと思っていましたし，意外と計算量多いんですよね。もっと手軽でそれっぽい方法無いかなーって常々思っていたのですが，記事で紹介している手法はかなりシンプルなので，個人的には「これでよくね？」って感じています。
アルファ値を次のように変えるのと，事前準備としてPhotoShopなどでSolidifyフィルタを使用してテクスチャエッジ部分の色を引き延ばしてテクスチャを作成しておけばよいみたいです。

 float alphaNew = max(alpha, (1.0/3/0) * alpha + (2.0/3.0) * threshold);
 if (alphaNew < threshold)
     discard;