現在、Ver.4.240.30.4004 64bit版を使用していますが、メモリを4GB以上に指定できることが確認できたので、以下にその手順を書き残しておきます。
難しくはありませんが、自己責任で行ってください。
既に64bit版をインストールしている場合は④から設定を行うだけで良いです。

①既にゲームを始めている場合は引き継ぎコードを作成し全てメモします。

②BlueStacks Multi-Instance Managerを起動。

③新規インスタンス作成画面に入り、Androidバージョンから64bit版を指定しインストール(少し時間がかかります)。

④64bit版を起動、環境設定→エンジン→「RAM(MB)」をカスタムに設定し、表示されるバーを動かし4097MB以上に指定することでBlueStacksのメモリを4GB以上に拡張できます。8192MB程度で良いと思います。

⑤必要なアプリケーションをインストールし、ゲームデータを引き継ぎコードで引き継ぐ。

参考までに、動作を安定させるために行った設定は以下のとおりです。
エンジン …CPUコア数 2、RAM 8192MB
詳細設定 …「定期的なメモリートリミングを有効にする」
LANケーブルをSTP仕様に変更。

【追記】2021年02月24日 21時25分
公式サイトに最新の64Bit版インストーラーのリリースページがあったので、リンクを残しておきます。
『提供元サイト』からのインストーラーでは64Bit版でインストールができなかったため、こちらからダウンロードしてインストールしたほうが良いかもしれません。
URL: https://bit.ly/2YLsxye