我想暂时在我的specs2测试套件中进行ScalaCheck属性测试,以便于调试。现在,每次重新运行测试套件时都会生成不同的值,这会使调试变得令人沮丧,因为您不知道观察到的行为的变化是由代码更改引起的,还是仅仅是由生成的不同数据引起的。
我怎样才能做到这一点?是否有正式的方法来设置ScalaCheck使用的随机种子?
我正在使用sbt
来运行测试套件。
额外的问题:是否有正式的方法来打印出ScalaCheck使用的随机种子,以便您可以重现甚至是非确定性的测试运行?
如果您使用的是纯ScalaCheck属性,那么您应该能够使用Test.Params
类来更改所使用的java.util.Random
实例并提供您自己的实例,它始终返回相同的值集:
def check(params: Test.Parameters, p: Prop): Test.Result
[更新]
我刚刚发布了一个新的specs2-1.12.2-SNAPSHOT,您可以使用以下语法指定随机生成器:
case class MyRandomGenerator() extends java.util.Random {
// implement a deterministic generator
}
"this is a specific property" ! prop { (a: Int, b: Int) =>
(a + b) must_== (b + a)
}.set(MyRandomGenerator(), minTestsOk -> 200, workers -> 3)
作为一般规则,在对非确定性输入进行测试时,您应该尝试在出现故障时回显或保存这些输入。
如果数据很小,您可以将其包含在向用户显示的标签或错误消息中;例如,在xUnit风格的测试中:(因为我是Scala语法的新手)
testLength(String x) {
assert(x.length > 10, "Length OK for '" + x + "'");
}
如果数据很大,例如自动生成的数据库,您可以将其存储在非易失性位置(例如带有带时间戳名称的/ tmp)或显示用于生成它的种子。
下一步很重要:获取该值,种子或其他任何内容,并将其添加到确定性回归测试中,以便从现在开始每次都检查它。
你说你想让ScalaCheck确定性“暂时”重现这个问题;我说你已经发现了一个非常适合成为单元测试的边缘情况(可能在一些手动简化之后)。
额外的问题:是否有正式的方法来打印出ScalaCheck使用的随机种子,以便您可以重现甚至是非确定性的测试运行?
从specs2-scalacheck
版本4.6.0
现在这是一个默认行为:
鉴于测试文件HelloSpec
:
package example
import org.specs2.mutable.Specification
import org.specs2.ScalaCheck
class HelloSpec extends Specification with ScalaCheck {
package example
import org.specs2.mutable.Specification
import org.specs2.ScalaCheck
class HelloSpec extends Specification with ScalaCheck {
s2"""
a simple property $ex1
"""
def ex1 = prop((s: String) => s.reverse.reverse must_== "")
}
build.sbt
配置:
import Dependencies._
ThisBuild / scalaVersion := "2.13.0"
ThisBuild / version := "0.1.0-SNAPSHOT"
ThisBuild / organization := "com.example"
ThisBuild / organizationName := "example"
lazy val root = (project in file("."))
.settings(
name := "specs2-scalacheck",
libraryDependencies ++= Seq(
specs2Core,
specs2MatcherExtra,
specs2Scalacheck
).map(_ % "test")
)
project/Dependencies
:
import sbt._
object Dependencies {
lazy val specs2Core = "org.specs2" %% "specs2-core" % "4.6.0"
lazy val specs2MatcherExtra = "org.specs2" %% "specs2-matcher-extra" % specs2Core.revision
lazy val specs2Scalacheck = "org.specs2" %% "specs2-scalacheck" % specs2Core.revision
}
当您从sbt
控制台运行测试时:
sbt:specs2-scalacheck> testOnly example.HelloSpec
您将获得以下输出:
[info] HelloSpec
[error] x a simple property
[error] Falsified after 2 passed tests.
[error] > ARG_0: "\u0000"
[error] > ARG_0_ORIGINAL: "猹"
[error] The seed is X5CS2sVlnffezQs-bN84NFokhAfmWS4kAg8_gJ6VFIP=
[error]
[error] > '' != '' (HelloSpec.scala:11)
[info] Total for specification HelloSpec
要重现特定的运行(即使用相同的种子)您可以从输出中获取seed
并使用命令行scalacheck.seed
传递它:
sbt:specs2-scalacheck>testOnly example.HelloSpec -- scalacheck.seed X5CS2sVlnffezQs-bN84NFokhAfmWS4kAg8_gJ6VFIP=
这产生与以前相同的输出。
您还可以使用setSeed
以编程方式设置种子:
def ex1 = prop((s: String) => s.reverse.reverse must_== "").setSeed("X5CS2sVlnffezQs-bN84NFokhAfmWS4kAg8_gJ6VFIP=")
另一种提供Seed
的方法是通过一个隐含的Parameters
,其中设置了seed
:
package example
import org.specs2.mutable.Specification
import org.specs2.ScalaCheck
import org.scalacheck.rng.Seed
import org.specs2.scalacheck.Parameters
class HelloSpec extends Specification with ScalaCheck {
s2"""
a simple property $ex1
"""
implicit val params = Parameters(minTestsOk = 1000, seed = Seed.fromBase64("X5CS2sVlnffezQs-bN84NFokhAfmWS4kAg8_gJ6VFIP=").toOption)
def ex1 = prop((s: String) => s.reverse.reverse must_== "")
}
对于scalacheck-1.12
,此配置有效:
new Test.Parameters {
override val rng = new scala.util.Random(seed)
}
对于scalacheck-1.13
,它不再起作用,因为删除了rng方法。有什么想法吗?