ファイルを右クリックして「プログラムから開く」-「プログラムの選択」をクリックすると、通常は「ファイルを開くプログラムの選択」画面が表示されます。

しかし、この画面が表示されずにメモ帳などほかのプログラムが表示されてしまう場合、窓の手 で次の設定をしていないかどうかを確認してください。

この設定をすると、プログラムの選択をしようとしたときにここで登録したプログラムが起動してしまいます。
レジストリを直接修正するならば、キー HKEY_CLASSES_ROOT\Unknown\shell\open を右クリックして削除します。

それでも解決しない場合、キー HKEY_CLASSES_ROOT\Unknown\shell\openas\command の（既定）の値を確認します。初期値は、

%SystemRoot%\system32\rundll32.exe %SystemRoot%\system32\shell32.dll,OpenAs_RunDLL %1

ですが、これがメモ帳のパスになっているとメモ帳が起動してしまいます。

それでも解決しない場合、キー HKEY_LOCAL_MACHINE\SOFTWARE\Classes\Unknown\shell についても、上記と同様の確認および操作を行ってみてください。