バイナリファイルを指定して行順ファイルのプログラムで処理したところ、プログラムが正しく動作しませんでした。

NetCOBOLのよくあるご質問を検索できます。

バイナリファイルを指定して行順ファイルのプログラムで処理したところ、プログラムが正しく動作しませんでした。

行順ファイルの指定時にバイナリファイルは扱えません。
COBOLで行順ファイルは、各種エディタで表示・編集が可能なテキストファイルを生成・参照する機能として提供していますので、行順ファイル指定ではバイナリファイルを対象にしていません。
したがって、プログラムから行順ファイルを指定し、使用するファイルとしてバイナリファイルを指定した場合、プログラムは正常に動作しません。
これは行順ファイル処理の制御コード(改行、TAB、EOFなど)がバイナリファイルに無作為に混入している可能性があるためです。
たとえば、0x09(TAB文字)は空白コードで置き換えられますし、0x1a(EOFコード)はファイル終端として扱います。その結果、期待した動作を得ることができなくなりますので、行順ファイルの指定時にバイナリファイルは扱わないようにしてください。