assert是1.4之后才有的。所以必须是jdk1.4以上的编译器才能编译。并且要在编译的时候打开assert的开关才行:javac -source 1.4 MyClass.java 
要加上 -source 1.4 参数。
建议你看看文档的assertion部分。
assert(m != null) : "null modulus";从效果来说,跟下面的代码差不多:if ((m != null) == false)
     throw new Exception("null modulus");不过本质上他们有很多不同的地方。
自己慢慢看文档。