１は、ref.fastaの各行の長さが違ったりしてませんか？（配列の最後の行以外で）

いろいろ試して例３であることがわかりました。配列名も配列の長さも問題なかったのですが、根本的に間違っていました。テキスト上に配列名書いて、配列コピペして、拡張子を.fastaにしてと外見上fastaファイルにしてたのですが、中身が違うんですね……今まで問題無かったのが不思議です。ありがとうございました。

2の質問の参考情報です。私自身は、あんまりSAMtoolsでフィルタリングしていない(スマートじゃなくawkを使っている)ので、精通していませんが、-fと-Fは共通の"FLAG"を使っているようですね。

下のメッセージの"Options:"の"-f"と"-F"の記述、および、最後の節の6番の記述が答えになるでしょうか。

解釈が正しいか自身は無いですが、 "-f p"が"required flag"に"p=0x1 (paired), "を指定、 "-F P"が"filtering flag"に"P=0x2 (properly paired), "を指定 という意味になるでしょうか。

この指定が、"mappingされたものとmappingされてないものを"抽出することになるのかは、私は分かりません。 実際に、小さいデータで細かい動作を確認すると良いのではないでしょうか。

$ /toolPath/samtools-0.1.12a/samtools view -F
view: option requires an argument -- F

Usage:   samtools view [options] <in.bam>|<in.sam> [region1 [...]]

Options: -b       output BAM
         -h       print header for the SAM output
         -H       print header only (no alignments)
         -S       input is SAM
         -u       uncompressed BAM output (force -b)
         -x       output FLAG in HEX (samtools-C specific)
         -X       output FLAG in string (samtools-C specific)
         -c       print only the count of matching records
         -t FILE  list of reference names and lengths (force -S) [null]
         -T FILE  reference sequence file (force -S) [null]
         -o FILE  output file name [stdout]
         -R FILE  list of read groups to be outputted [null]
         -f INT   required flag, 0 for unset [0]
         -F INT   filtering flag, 0 for unset [0]
         -q INT   minimum mapping quality [0]
         -l STR   only output reads in library STR [null]
         -r STR   only output reads in read group STR [null]
         -?       longer help

Notes:

  1. By default, this command assumes the file on the command line is in
     the BAM format and it prints the alignments in SAM. If `-t' is
     applied, the input file is assumed to be in the SAM format. The
     file supplied with `-t' is SPACE/TAB delimited with the first two
     fields of each line consisting of the reference name and the
     corresponding sequence length. The `.fai' file generated by `faidx'
     can be used here. This file may be empty if reads are unaligned.

  2. SAM->BAM conversion: `samtools view -bT ref.fa in.sam.gz'.

  3. BAM->SAM conversion: `samtools view in.bam'.

  4. A region should be presented in one of the following formats:
     `chr1', `chr2:1,000' and `chr3:1000-2,000'. When a region is
     specified, the input alignment file must be an indexed BAM file.

  5. Option `-u' is preferred over `-b' when the output is piped to
     another samtools command.

  6. In a string FLAG, each character represents one bit with
     p=0x1 (paired), P=0x2 (properly paired), u=0x4 (unmapped),
     U=0x8 (mate unmapped), r=0x10 (reverse), R=0x20 (mate reverse)
     1=0x40 (first), 2=0x80 (second), s=0x100 (not primary),
     f=0x200 (failure) and d=0x400 (duplicate). Note that `-x' and
     `-X' are samtools-C specific. Picard and older samtools do not
     support HEX or string flags.