BOOK・OFFでPSVitaを買い取ってもらうため、箱がある方が高くつくと聞いて探して見つけましたが、箱なしの状態でも持って行けますか？

はい、おそらく箱なしでも持って行けると思います。BOOK・OFFでは、ゲーム機の値段は、箱や取扱説明書などの付属品に関係なく、本体のみを対象としておりますので、付属品なしの状態でOKです。